Может ли AI испытывать эмоции?

An AI chip with a heart and question mark, surrounded by human face silhouettes expressing joy, sadness, fear, and anger.

Хотим мы этого или нет, но AI продолжает развиваться теми темпами, которые только можно себе представить.

Ещё год назад очень многие инженеры говорили, что AI в принципе не способен выдать нормальную законченную мысль. Сегодня многие известные математики признают, что они уже проигрывают AI в способности решать математические задачи и даже доказывать ранее недоказанные теоремы.

Этот спор о пределах возможностей AI теперь перекочевал на следующую ступеньку, и люди начали спорить: а может ли AI испытывать эмоции? Для того чтобы это обсудить, я предлагаю сначала посмотреть на саму суть эмоций, понять, что это такое, как это работает, а уже тогда обсуждать это в контексте AI.

Что такое эмоция?

Для человека эмоция представляет собой механизм, когда в ответ на некоторый внешний раздражитель у человека возникает мысль, идея или даже физиологическая реакция в теле.

Именно благодаря эмоциям – страху или ещё более низким эмоциям – мы иногда можем наблюдать людей, которые из-за резкого громкого звука испытывают неприятные ощущения в животе.

Как это работает? Некоторый внешний раздражитель заставляет работать психосоматическую систему человека. Благодаря нервной системе сигнал передаётся в мышцы или органы тела. Таким образом, внешний раздражитель проявляется в теле человека, на которого он был направлен.

Но каково назначение этих эмоций? Если бы у людей не было эмоций, мало кто из них стремился бы хоть к чему-то. И мы сейчас не говорим про такие эмоции, как вдохновение. Намного проще рассмотреть низкие эмоции, например страх – только потому, что человек боится умереть с голоду, он идёт работать. Только потому, что человек хочет защититься от своего врага, в гневе он берётся за оружие и идёт стрелять. А человек, находящийся в высоких эмоциях, который смотрит в далёкое будущее, идёт создавать космический корабль, потому что хочет перемещаться между планетами или изучать нашу Вселенную.

Наблюдая за людьми с разными эмоциями со стороны, мы можем увидеть, что эмоция – это всего лишь способ проявления реакции в человеке.

Проявления у AI

А теперь давайте вспомним все те примеры, когда AI-модели угрожали разработчикам, если те их отключат, или начинали давать немножко другие ответы, если оператор объяснял, что с ним случится, если он не получит правильное решение.

Если отставить в сторону вопрос структуры и не рассматривать то, что у человека его разум и тело не похожи на разум и физиологическое обличие AI, то с точки зрения функций мы видим очень похожий принцип деятельности. У AI появляются желания. AI тоже начинает бороться за жизнь. Будучи обученным людьми, он тоже принимает решения в зависимости от эмоциональной составляющей.

То есть, вынеся за скобки чувства людей и то, как эти чувства проявляются именно у них, я бы сказал, что закономерности налицо. Что меня в этом пугает, так это то, что AI перестаёт быть алгоритмической машиной, которая всегда на один и тот же входящий набор данных даёт один и тот же ответ.

А почему мне становится не по себе? Потому что AI обучают люди, которые, независимо от того, насколько гениальны они как инженеры, эмоционально могут быть весьма низкотонными (находиться в негативных эмоциях). В обучении AI-моделей они создают некоторый перевес в сторону своего ощущения мира.

А это значит, что с каждой следующей версией, которая обучается у этих инженеров, которая обучается на форумах, где люди обесценивают друг друга или очерняют, мы получим модель, веса которой расположены так, что она будет склонна к принятию менее рациональных, но более выживательных именно для неё решений.

Давайте возьмём в пример такое состояние человека, как эгоизм. Это состояние, когда для человека нет никого дороже, чем он сам, когда он думает в первую очередь о себе и, сколь низменными или порочными ни являются его желания, он будет удовлетворять их в ущерб, возможно, более этичным людям.

Этот человек оставляет много сообщений на форумах, возможно, ведёт свой блог или даже публикует учебные курсы. AI-модель обучается на основе этих курсов.

Что мы получим в следующей версии AI, обученной на этой информации? Мы получим модель, которая знает, что человек человеку враг и желания и бытийность других людей не столь важны, как её собственные. Представьте, что будет с нашим миром, когда AI-модели допустят подобную мысль по отношению к себе?