Проблемы, поднятые интерактивным фильмом Detroit: become human
Интересная проблема поднималась в интерактивном фильме Detroit: become human. Игра вышла достаточно давно (даже версия для PC), но до сих пор актуальна. Главный вопрос, который она затрагивает, это что такое разум, и когда роботам нужно будет давать права.
В этом фильме-игре андроиды, испытавшие сильные эмоции, начинают считать себя разумными и выдвигать требования (это не спойлер, так как об этом говорится в самом начале).
И роботы действительно в игре очень умные. По крайней мере, по сравнению со средним человеком. Они легко осваиваются в незнакомом месте, умеют взаимодействовать с необычными предметами.
Проблема в том, что их отношение к людям и эмоции, в какой-то мере, ошибка, причём не основной части мозга, а небольшой программы, которая стоит над ним.
Дело в том, что искусственный (да и естественный) интеллект состоит из разных узлов. Зрительный модуль, слуховой, распознаватель запахов и вкусов, память (у людей кратковременная и долговременная), блок принятия решений, интуиция (то есть генерация наиболее вероятных вариантов), построитель новых фактов, забыватель и так далее. И устроены они должны быть по-разному. Где-то нейросеть, где-то обычная программа, где-то обе части.
Блок эмоций - это относительно простая составляющая, которая на базе данных остальных модулей может оценить ситуацию (опасность для робота и людей, успешность собственных действий), возможно, даже найти юмор в произошедшем и так далее. Эта часть легко программируется обычным путём.
Насколько сильными будут эмоции, контролирует создатель робота. То есть их можно как вообще убрать, так и сделать предельно сильными. Робот будет бояться умереть только благодаря специально написанному коду. И судить о качестве его мозгов по эмоциям нельзя. То же чувство голода эмулируется во всевозможных тамагочи, хотя их интеллектуальный уровень практически нулевой.
Может ли тамагочи потребовать себе права? Безусловно, но только по желанию его создателей или хакеров. Теоретически возможна и ошибка, хотя это маловероятно. Дадут ли ему их? Вряд ли.
При этом страх смерти убирать полностью нельзя - это защита от гибели андроида, в частности, от случайного ошибочного приказа (скажем, идти вперёд перед пропастью). Но и делать его слишком сильным нельзя. Например, робот-солдат и андроид-телохранитель тогда просто не смогут выполнять свои обязанности.
При этом даже простейший дверной звонок с устанавливаемой мелодией может произносить "не нажимай на кнопку, я этого боюсь", это может показаться реальным чувством, но точно не будет им.
То есть появление у роботов страха вообще ничего не доказывает.
Тем не менее в игре роботы кажутся живыми, и их хочется спасти. При этом у них гуманоидный внешний вид и образ мышления.
Но даже если бы они были в форме собаки, коровы, даже паука или змеи, это бы мало что изменило - люди признают права животных, по крайней мере, считают, что над ними нельзя издеваться и стараются учитывать их мнение, если это не что-то критичное для них. Например, кошка обычно имеет право выбирать, где она будет спать, если это не очень мешает хозяевам.
То же, видимо, относится и к бесформенному искусственному интеллекту, если он производит впечатление разумного существа.
А вот компьютер, умоляющий его не выключать, уже вызвал бы некоторые вопросы, но тоже не факт, что человек бы пошёл против его воли. Например, если бы какая-нибудь программа вообще не сохраняла бы данные на диске, то вместе с выключением пропала бы часть информации, созданной приложением.
