Учет последствий

Искусственный интеллект может анализировать данные, но не принимать моральные или этические решения. Если вы попросите искусственный интеллект сделать выбор, то он всегда выберет вариант с самой высокой вероятностью успеха, если вы не включите также своего рода функцию случайности.

Искусственный интеллект сделает этот выбор независимо от возможного результата. В разделе “Беспилотные автомобили и проблема вагонетки” главы 14 эта проблема выражается весьма ясно. Сталкиваясь с выбором сохранить жизнь либо пассажирам автомобиля, либо пешеходам, принимающий решение искусственный интеллект должен иметь инструкции от человека. Искусственный интеллект не способен учитывать последствия, а потому не может участвовать в процессе принятия таких решений.

Хотите испыть удачу? Делайте ставки в казино 777 вулкан и выигрывайте.

Во многих ситуациях недооценка способности искусственного интеллекта решать задачу просто неудобна. В некоторых случаях вам, вероятно, придется решать задачу во второй или третий раз вручную, поскольку искусственному интеллекту не до задачи. Однако, когда дело доходит до последствий, перед вами может встать реальная проблема в дополнение к моральным и этическим проблемам, если вы доверите искусственному интеллекту решать неподходящие для него задачи. Например, разрешение движения беспилотных автомобилей в неподходящем для этого месте, вероятно, будет незаконным, и вы столкнетесь с юридическими проблемами в дополнение к возмещению ущерба и медицинским расходам, причиной которых может стать беспилотный автомобиль. Короче говоря, прежде чем доверять искусственному интеллекту нечто, подразумевающее потенциальные последствия, имеет смысл ознакомиться с юридическими требованиями.