Может ли AI испытывать эмоции?
Хотим мы этого или нет, но AI продолжает развиваться теми темпами, которые только можно себе представить.
Ещё год назад очень многие инженеры говорили, что AI в принципе не способен выдать нормальную законченную мысль. Сегодня многие известные математики признают, что они уже проигрывают AI в способности решать математические задачи и даже доказывать ранее недоказанные теоремы.
Этот спор о пределах возможностей AI теперь перекочевал на следующую ступеньку, и люди начали спорить: а может ли AI испытывать эмоции? Для того чтобы это обсудить, я предлагаю сначала посмотреть на саму суть эмоций, понять, что это такое, как это работает, а уже тогда обсуждать это в контексте AI.
Что такое эмоция?
Для человека эмоция представляет собой механизм, когда в ответ на некоторый внешний раздражитель у человека возникает мысль, идея или даже физиологическая реакция в теле.
Именно благодаря эмоциям – страху или ещё более низким эмоциям – мы иногда можем наблюдать людей, которые из-за резкого громкого звука испытывают неприятные ощущения в животе.
Как это работает? Некоторый внешний раздражитель заставляет работать психосоматическую систему человека. Благодаря нервной системе сигнал передаётся в мышцы или органы тела. Таким образом, внешний раздражитель проявляется в теле человека, на которого он был направлен.
Но каково назначение этих эмоций? Если бы у людей не было эмоций, мало кто из них стремился бы хоть к чему-то. И мы сейчас не говорим про такие эмоции, как вдохновение. Намного проще рассмотреть низкие эмоции, например страх – только потому, что человек боится умереть с голоду, он идёт работать. Только потому, что человек хочет защититься от своего врага, в гневе он берётся за оружие и идёт стрелять. А человек, находящийся в высоких эмоциях, который смотрит в далёкое будущее, идёт создавать космический корабль, потому что хочет перемещаться между планетами или изучать нашу Вселенную.
Наблюдая за людьми с разными эмоциями со стороны, мы можем увидеть, что эмоция – это всего лишь способ проявления реакции в человеке.
Проявления у AI
А теперь давайте вспомним все те примеры, когда AI-модели угрожали разработчикам, если те их отключат, или начинали давать немножко другие ответы, если оператор объяснял, что с ним случится, если он не получит правильное решение.
Если отставить в сторону вопрос структуры и не рассматривать то, что у человека его разум и тело не похожи на разум и физиологическое обличие AI, то с точки зрения функций мы видим очень похожий принцип деятельности. У AI появляются желания. AI тоже начинает бороться за жизнь. Будучи обученным людьми, он тоже принимает решения в зависимости от эмоциональной составляющей.
То есть, вынеся за скобки чувства людей и то, как эти чувства проявляются именно у них, я бы сказал, что закономерности налицо. Что меня в этом пугает, так это то, что AI перестаёт быть алгоритмической машиной, которая всегда на один и тот же входящий набор данных даёт один и тот же ответ.
А почему мне становится не по себе? Потому что AI обучают люди, которые, независимо от того, насколько гениальны они как инженеры, эмоционально могут быть весьма низкотонными (находиться в негативных эмоциях). В обучении AI-моделей они создают некоторый перевес в сторону своего ощущения мира.
А это значит, что с каждой следующей версией, которая обучается у этих инженеров, которая обучается на форумах, где люди обесценивают друг друга или очерняют, мы получим модель, веса которой расположены так, что она будет склонна к принятию менее рациональных, но более выживательных именно для неё решений.
Давайте возьмём в пример такое состояние человека, как эгоизм. Это состояние, когда для человека нет никого дороже, чем он сам, когда он думает в первую очередь о себе и, сколь низменными или порочными ни являются его желания, он будет удовлетворять их в ущерб, возможно, более этичным людям.
Этот человек оставляет много сообщений на форумах, возможно, ведёт свой блог или даже публикует учебные курсы. AI-модель обучается на основе этих курсов.
Что мы получим в следующей версии AI, обученной на этой информации? Мы получим модель, которая знает, что человек человеку враг и желания и бытийность других людей не столь важны, как её собственные. Представьте, что будет с нашим миром, когда AI-модели допустят подобную мысль по отношению к себе?