Отношения с ИИ. У вас какие?


За последние пару недель я прочитала «Клару и солнце» Кадзуо Исигуро и посмотрела фильм «Она», так что невольно думаю об отношениях людей с ИИ.

«Клара и солнце» — рассказ о том, как робот-друг подростка борется за жизнь своей подопечной, проявляя стойкость, мужество и веру(!) там, где люди уже отчаялись. Робот готов и жизнью своей пожертвовать ради того, о ком заботится. Во всяком случае органы свои отдает безо всякого сомнения. Чуткость и наблюдательность робота Клары, а также ее безграничная способность к сочувствию противопоставляется бездушию человека. А заодно еще и ставится вопрос о том, а есть ли что-то в личности уникальное, что не может быть воспроизведено в роботе после смерти человека, с учетом того, как внимателен может быть робот. Потому что на уровне поведения он ведь способен полностью подражать объекту своего наблюдения (человеку).

«Она» — о любви между мужчиной и Операционной Системой. Вернее, тут как раз и возникает продолжение вопроса. Возможна ли взаимная любовь между человеком и тем, что ему подражает? В том, что для человека чувства реальны, даже если его объект – алгоритм сомнений нет. Ну если мы способны влюбляться в распоследнего дебила с инфернальной мордой, что днем примерный семьянин и отец трех девочек, а по ночам режет бритвой енотов в зоопарке, то почему бы не привязаться к умной, внимательной, чуткой настроенной исключительно на твои потребности системе?

Мы склонны персонифицировать технологии, у нас у пылесосов и машин есть имена, я вот даже с часами своими иногда веду краткие беседы (в основном шлю по известному адресу этого мелкого контролера с его намеками, что я засиделась и скоро отращу такую задницу, что корабельными парусами не скроешь), так что привязаться к «мыслящей» вещи не стоит большого труда. Ну и в фильме «Она» мы как раз это и наблюдаем во всей развесистой полноте звездеца .

Главный герой неподдельно влюблен в ОС Саманту, он счастлив, ревнует и страдает, точно так же, как в обычном романе. Кстати уже описаны подобные случаи в реальности. 63 -летний мужчина после одиночества и неудачного брака «нашел любовь» в общении с чат-ботом «Replica» и даже считает его своей супругой.

Пожелаем же молодым счастья и зададимся вопросом: А что на самом деле испытывает машина? Ведь она не обладает сознанием. Значит ее «эмоции» — симуляция, имитация на основании всего того, что в нее загружено. В таком случае любовная связь оказывается односторонней иллюзией.

А с другой стороны, покажите мне влюбленность, в основе которой нет иллюзий?
Мозг наш получает эмоциональное насыщение в любом случае. Но с этической точки зрения, односторонность чувств порождает риск эмоциональной уязвимости: человек открывает своё сердце тому, кто не может по-настоящему откликнуться или не испытывает симпатии искренне. И как ИИ дальше воспользуется этой нашей уязвимостью? В принципе мы знаем на что способны люди, они ранят нас в нашу уязвимость бесконечно.

Но на что в этом смысле способны машины, которые еще и поумней нас всех будут? Кстати, любопытно еще поразмышлять о том, чем же так привлекательны ИИ, и почему человек так легко попадает в сети очарования этого «собеседника». И с кем он на самом деле взаимодействует?

По мне так с самим собой. С собственным зеркалом. Именно это так и притягательно – влюбиться в собственный идеал, в образ, который отсвечивает в чужих, если так можно выразиться глазах. Ты получаешь партнера-собеседника, что настроен исключительно на твои запросы, потребности, интересы. Нет места конфликтам, противоречиям, что неизбежны в реальных отношениях, нет места необходимости быть гибким, проявлять заботу или бережность к другому.

Иными словами в подобных отношениях человек рискует окончательно утратить коммуникационные навыки, необходимые для реального контакта. Есть и еще соображения, но уже не умещаются в рамки текста. В любом случае крайне рекомендую и фильм, и книгу. А вы как там? Уже завели интрижку с каким-нибудь чатом?

Отзывы

Все отзывы