Искусственный интеллект и мы: игры всерьез и понарошку

Наше ежедневное общение — это совокупность языковых игр. Мысль не нова, но в свете бурного развития искусственного интеллекта к ней самое время вернуться. В сегодняшнем материале мы поговорим о правилах, которые мы начинаем усваивать с детства, чтобы участвовать в социальных практиках и о том, могут ли им обучиться компьютерные программы.

Культура как набор игр

Представьте ситуацию: ваш друг пришел к вам в гости и принес новую настольную игру. Ни он, ни вы ее не знаете. Вы открываете упаковку, читаете правила и потихоньку вовлекаетесь в процесс. Языковые игры, в которые мы играем в социуме, устроены так же – только в этом случае усвоение правил обычно не осознается нами.

Казалось бы, игры – это сфера развлечений, при чем тут серьезная взрослая жизнь? Нидерландский философ Йохан Хёйзинга рассматривает феномен игры шире и пишет, что она является основой культуры и тем, что придает действию смысл. Он считает, что «серьезное вовсе не антоним игры… ее противоположность — бескультурье и варварство». Там, где существует культура, существуют игры и правила, из которых они складываются.

В этом плане культура – своего рода набор игр. Просыпаясь, мы превращаемся в социальных созданий и в течение дня движемся от одной языковой игры к другой, становясь активными или пассивными участниками: ведем беседу за чашечкой кофе, переписываемся с коллегами в чате, жалуемся друзьям на коллег, читаем новости, заказываем доставку, оставляем комментарии и так далее до самого отхода ко сну.

С раннего детства мы вовлекаемся в разные игры, видим, как ведут себя в них наши близкие, усваиваем их правила и так постепенно расширяем репертуар социальных практик, в которых мы знаем, что принято делать. Вот маленький мальчик смотрит, как его отец разговаривает по телефону. Потом он подносит ладонь к уху, говорит: «Алло!», расхаживает из стороны в сторону, слушая, что ему отвечают «с той стороны». Он учится правилам и ходам в игре «Разговор по телефону».

В каждой социальной практике разыгрывается своя языковая игра, особая система коммуникации, состоящая из «языка и действий, с которыми он переплетен». Это определение принадлежит австрийско-британскому философу Людвигу Витгенштейну. Для создателя термина «языковая игра» было важно подчеркнуть, что говорить на языке — значит участвовать в деятельности, в форме жизни, из множества которых складывается облик общества. Как ходы в настольной игре, действия необходимы в языковой игре.

Чем сложнее культура, тем больше ее арсенал языковых игр. В качестве простого примера Витгенштейн предлагал представить себе язык, состоящий только из приказов и донесений о ходе сражения. В нем можно было бы различить как минимум две игры:

отдавать приказы или выполнять их,
информировать о событии.

Помните градоначальника по прозвищу Органчик из «Истории одного города» М. Е. Салтыкова-Щедрина? Того самого, который безостановочно писал приказы у себя в кабинете, а с подданными взаимодействовал при помощи двух фраз: «Разорю!» и «Не потерплю!»? Это сатирически изображенный пример общества, в котором правитель общается с народом посредством лишь двух языковых игр — игры в отдачу приказов и игры в запугивание. Как известно, вместо головы у этого градоначальника было некое механическое устройство, которое могло исполнять всего несколько программ.

Репертуар игр, которые способны сыграть наши «шарманки» куда богаче и сложнее, но принцип в чем-то схож: в зависимости от контекста мы используем ту или иную игру и зачастую делаем это автоматически, не отдавая себе отчета в своем выборе и правилах, которым следуем.

Игры по правилам и без

Ключевым элементом в игре являются правила. Правила — каркас игры и основа ее жизнеспособности. Они являются гарантом взаимопонимания. Многие из них мы усваиваем с детства, и эти неписаные правила незримо присутствуют где-то в закоулках нашего сознания. Другие мы изучаем, прежде чем приступить к какой-то языковой игре. Например, вступая в группу в мессенджере или соцсети, мы можем ознакомиться со списком правил, принятых в ней. Обычно он более-менее традиционный: не ругаться матом, не оскорблять участников, не публиковать спам. Но есть и чуть менее ожидаемые требования: например, в некоторых сообществах запрещается давать непрошеные советы, использовать клавишу Caps Lock и многоточие, отправлять голосовые сообщения.

Итак, некоторые правила мы усваиваем в детстве при поддержке нашего окружения, некоторые изучаем «на берегу», а иногда знакомиться с ними нам приходится уже в процессе игры. И тогда, как говорил кузнец Плевака из мультфильма «Как приручить дракона?»: «Практика – наш лучший учитель!» Если мы вынуждены оказаться в игре, правил которой не знаем, это может вызвать стресс, пусть мы и не окружены стайкой засидевшихся взаперти драконов. Кстати, если рассматривать эту сцену из мультфильма, в которой неопытные подрастающие викинги пытаются одолеть огнедышащих бестий и на ходу (вернее, на бегу!) учат правила ведения боя, то драконы здесь олицетворяют неуправляемый, внеигровой элемент. Их нельзя назвать участниками игры, так как к ним неприменимы правила.

Правила можно маркировать по рангу, по тому, насколько обязательно им следовать. Джон Роджерс Сёрл разделил их на конститутивные и регулятивные. Пренебрежение конститутивными правилами разрушает игру. Например, мы играем в прятки, вóда досчитывает до ста, а участники остаются стоять на самом видном месте. «Кто не спрятался, я не виноват!»: игра не состоится, так как нарушено ее конститутивное правило.

Если же участники честно побежали прятаться, а вóда досчитал до двадцати, но потом перепрыгнул сразу к ста, игра будет нечестной, но не сорвется. Вóду можно заподозрить в жульничестве или не обратить внимания на нарушение регулятивного правила, и ему все сойдет с рук.

Конститутивные правила обеспечивают тот самый каркас, а регулятивные отвечают за допустимость маневра в заданных рамках.

В игру вступает искусственный интеллект

Считается, что для того чтобы языковая игра состоялась, нужно выполнение ряда условий:

во-первых, нужно языковое сообщество, то есть игроки;
во-вторых, слова, которые используются, должны адекватно пониматься всеми участниками. Если продолжить аналогию с настольной игрой, фишки должны иметь известное игрокам значение и использоваться по правилам. Это в первую очередь обеспечивает грамматика;
в-третьих, если кто-то нарушает правила, другие участники должны осудить это, иначе такие поступки будут приводить к сбоям в коммуникации. Соблюдение правил этого рода обеспечивает наличие этикета.

Но не вносит ли развитие искусственного интеллекта свои коррективы в этот список? Ведь если мы можем обучаться правилам, то и нейросети тоже.

Рассмотрим несколько обычных в сегодняшней реальности ситуаций. Например, с утра за чашечкой кофе мы общаемся не с кем-то из семьи, а с Алисой, голосовым помощником. Алиса – не член языкового сообщества, не носитель естественного языка, но у нас с ней вполне может состояться правдоподобный диалог. Хотя Алиса обучена довольно искусно выкручиваться из ситуаций, в которых она не знает, какой ход сделать, иногда наступает момент, когда происходит сбой и обнажается тот факт, что наш собеседник «липовый». Он распознает и имитирует естественную речь, но его родной язык – формальный. В этом случае мы изначально знаем, что разговариваем с искусственным интеллектом, нас устраивает эффект «как бы» живого общения и мы можем подыграть голосовому помощнику, продлевая этот эффект, или же подловить его и убедиться в его несостоятельности в качестве полноправного участника игры.

Вот другой случай. Мы за границей, мы принадлежим к другому языковому сообществу и не понимаем значение слов, что не позволяет нам вступить в языковую игру с носителями языка. Но при помощи голосового переводчика, который делает иностранную речь доступной для нас, а нашу – для собеседника, языковая игра может состояться. Искусственный интеллект становится посредником, дающим возможность общаться носителям разных естественных языков.

В языковых играх действует метод «кнута и пряника», обеспечивающий соблюдение правил. В современном медиапространстве этот метод легко применить с помощью банов, предупреждений, с одной стороны, и лайков, повышения рейтинга, с другой. Интересно, что сегодня эти функции наказания или поощрения отчасти могут быть переданы специальным ботам, которые выполняют обязанности администратора в сообществе.

Социальные «поглаживания», но никакого харассмента

Метод пряника порой оказывается более действенным. Нам всем важно ощущать свою принадлежность к группе, поддерживать самооценку. Здесь можно вспомнить еще одного автора, рассуждавшего про игры, в которые мы играем, — речь об основателе трансакционного анализа Эрике Берне. Он писал о том, что, взаимодействуя друг с другом, мы обмениваемся социальными «поглаживаниями»: «Мы будем называть “поглаживанием’’ любой акт, предполагающий признание присутствия другого человека. Таким образом, “поглаживание’’ будет у нас одной из основных единиц социального действия».

В роли «поглаживания» выступают самые простые слова, причем они могут быть со знаком плюс («Добрый день!») или со знаком минус («Посторонись!»). Они позволяют чувствовать себя замеченными, подтверждают, что человек рядом нас видит.

Небольшой запас «поглаживаний» заложен в элементарных правилах этикета. Мы примерно представляем, сколько таких знаков внимания мы «должны» тому или иному участнику игры и сколько должен нам он, и привыкаем к этому. Обычно мы чувствуем, если кто-то нарушает счет, и задумываемся над причинами такого поведения и изменения сложившихся правил игры.

Если кто-то «недодал» нам положенное количество «поглаживаний», мы размышляем, не обиделся ли он и все ли у него в порядке. Если «поглаживаний» стало больше, это может свидетельствовать о том, что отношения для участников стали важнее. Хотя может и вызвать подозрения. Эрик Берн приводит пример, в котором неожиданное усиление внимания со стороны знакомого вызывает следующие размышления у героя этой сценки: «Что это с ним вдруг случилось? Может быть, он теперь работает страховым агентом?», а на языке трансакционного анализа это значит: «Он мне должен всего одно “поглаживание’’. Почему он вдруг выдал целых пять?»

Сегодня мы сталкиваемся с тем, что «поглаживания» нам предлагают не только люди, но и различные формы искусственного интеллекта – боты, голосовые помощники и так далее. Эрик Берн в своих исследованиях социальных игр подчеркивает взаимность этого процесса – мы что-то даем другому, а другой нам. Когда одна из сторон в принципе не нуждается в том, чтобы ей что-то дали, обнажается искусственность этого взаимодействия.

Пройдет ли искусственный интеллект «фейсконтроль»

Искусственный интеллект может обучаться правилам и подражать культуре. Часто нам это оказывается на руку и мы поддерживаем этот эффект «как бы». Переломный момент наступает тогда, когда мы не можем с точностью сказать, имеем мы дело с искусственным интеллектом или нет? Эта тема звучит в общественном сознании давно, взять хотя бы упомянутую выше историю из книги Салтыкова-Щедрина.

Вернемся к примеру с игрой в прятки. Игрок, который отказывается прятаться, открыто нарушая игрообразующее правило, по-немецки зовется шпильбрехер. Того, кто мухлюет со счетом, можно назвать плутом. О роли плута и шпильбрехера пишет Й. Хёйзинга: «Шпильбрехер, однако, вовсе не то, что плут. Этот последний лишь притворяется, что играет. Он делает вид, что признает силу магического круга игры. Сообщество входящих в игру прощает ему его грех гораздо легче, нежели шпильбрехеру… Отказываясь от игры, он разоблачает относительность и хрупкость того мира игры, в котором он временно находился вместе с другими. В игре он убивает иллюзию, inlusio, буквально в-игрывание… Поэтому он должен быть изничтожен, ибо угрожает самому существованию данного игрового сообщества… Шпильбрехер разрушает магию их волшебного мира, поэтому он трус и должен быть подвергнут изгнанию. Точно так же и в мире высокой серьезности плуты, жулики, лицемеры всегда чувствуют себя гораздо уютней шпильбрехеров: отступников, еретиков, вольнодумцев, узников совести… Разве что эти последние, как то нередко случается, тут же не создают, в свою очередь, новое сообщество со своими собственными, уже новыми правилами».

Шпильбрехер подрывает основы существования сообщества. Членство в нем дает важное ощущение принадлежности к группе, а нерушимость ее правил позволяет чувствовать стабильность и предсказуемость. Шпильбрехер подвергает сомнению жизнеспособность группы и ее правоту, целесообразность установленных в ней правил. Представим себе двух нарушителей порядка в чате: первый из них выругался, а второй бросил вызов мировоззрению, принятому в группе. В нашем распоряжении два типа наказания: бан и предупреждение, и нужно выбрать, кому что предназначить. Можно предположить, что второй участник опаснее для существования группы и исключат его: «Казнить, нельзя помиловать».

Мы видим примеры, когда человека, несогласного с убеждениями, принятыми в том или ином интернет-сообществе, исключают из него. Плут же может остаться в группе и преследовать свои цели. Мафия притворяется законопослушным гражданином, прокручивая в темноте свои делишки. Или взять ботов: такие «засланные казачки», сохраняя видимость игры и мимикрируя под реальных пользователей, могут разрушать ее изнутри похлеще шпильбрехеров и вводить в заблуждение других игроков.

В таких случаях становится важным отловить «засланца» в тот момент, когда он стучится в игру. «Фейсконтроль» осуществляется с помощью капчи — автоматического теста для различения компьютеров и людей. Мы доказываем, что являемся пользователями с «человеческим лицом», когда пытаемся разобрать искаженные буквы на картинке или разыскиваем все квадраты со светофорами. Поскольку боты учатся обходить защиту, разработчикам приходится придумывать новые виды капчи, и сегодня в интернете можно найти эти разные виды и проследить «эволюцию» капчи — от ранних тестов с буквами или светофорами до более новых технологий, которые анализируют поведение пользователя в сети так, что он даже не знает, что проходит «фейсконтроль».

Сегодня статус искусственного интеллекта не определен: он то ли является посредником, облегчающим человеку участие в языковых играх, то ли сам претендует на роль игрока. Он может обучаться шаблонам игры и имитировать ее. Искусственный интеллект представляется антропоморфным, на него примеряют человеческий облик. Вот что о переодевании при вступлении в игру писал Хёйзинга: «Инобытие и тайна игры вместе зримо выражаются в переодевании. “Необычность” игры достигает здесь своей высшей точки. Переодевшийся или надевший маску “играет” иное существо. Но он и “есть” это иное существо!»

Но когда теряется эффект «как бы», от нас ускользает реальность. Искусственный интеллект становится плутом, не знающим, что ему выпала эта роль. Он творит свой мир, используя доступные ему данные, достоверность которых не всегда легко проверить, и погружает в него нас. Забывая об условности его сродства с нами, можно стать заложниками этого фантасмагоричного мира и потерять ощущение подлога.

В завершение вспомним сказку Ганса Христиана Андерсена «Голый король»: все придворные и народ поддерживали иллюзию, которую предложили плуты, сделав негласным игрообразующим правилом признание того, что король одет в прекрасный наряд; никто не хотел нарушить этот молчаливый уговор и быть изгнанным из группы. Бросить вызов абсурдному правилу и выступить в роли шпильбрехера смог только маленький мальчик, святая простота, которому ничего не сделают: «А король-то голый!»

Фото: Hassan Pasha, Markus Spiske/Unsplash