В исходном коде бета-версии популярного инструмента обмена мгновенными сообщениями (пока доступного только на платформе Android) обнаружена новая функция: проверка достоверности фактов. Пользователи были шокированы. Не совсем понятно, кто и как отделяет правду от вымысла, а главное, что происходит с пойманными с поличным? «Время сотрудничества» находится в стадии составления.
Как это будет работать?
Очевидно, что ни один программный код не может самостоятельно отличить факт от факта или чистого вымысла. Возможно, через несколько лет машины станут достаточно «умнее», чтобы справиться с такой задачей, но пока даже самый продвинутый GPT не имеет особой уверенности в себе: даже если ИИ ответит на ваш запрос правдиво, это будет кусок пирога, чтобы запутать его.
Александр Анучкин, декан факультета медиа Университета «Синергия», прокомментировал:
- Я протестировал четвертый GPT и обнаружил ошибку, о которой предупреждают разработчики и тренеры по ИИ: если чат не может найти ответ на вопрос, он начинает «галлюцинировать»: выдает какие-то прогнозы или «в некоторых случаях возможные сценарии». Ответ. Короче говоря, он лгал. Хорошая новость в том, что он признал свою вину и даже попросил прощения. Но после этого я решил подвергнуть сомнению одно из его утверждений, и… он и на этот раз извинился и сразу же опроверг свой правильный ответ. Видимо, эксперты считают, что доверять такому фактчекинговому «помощнику», мягко говоря, преждевременно.
Как всегда, любые нововведения Дурова покрыты тайной: официальной информации мало. Но программисты нашли ответ, покопавшись в том же исходном коде. Сама платформа не делает различий между фактом и вымыслом (случайным или злонамеренным). Этим будут заниматься определенные «агентства», с которыми сотрудничает Fact Check Telegram. Обещают, что эксперты не только выявят подозрительную информацию, но и пометят ее, а также добавят (скорее всего автоматически) некоторую поясняющую информацию. Пока ажиотажа нет, но интересно отметить (это цитата из Telegram-канала «Код Дурова», который хоть и не имеет прямого отношения к самому Павлу, но регулярно и эффективно предоставляет инсайдерскую информацию): «Правительство штата будет сможет назначить агентство, будет сотрудничать с Telegram».
- На самом деле это открывает огромное пространство для манипуляций», — продолжает эксперт. — Мы живем в мире постправды, где правда уже не считается правдой, но, боюсь, так и будет лицо Парадокс: в разных странах одни и те же новости будут считаться и правдивыми, и ложными одновременно будут только подвергаться преследованиям и лишению избирательных прав и денег.
Что делать простым пользователям?
Обычные пользователи мессенджера — читатели и подписчики — смогут узнать, какое агентство считает новость фейковой, но не смогут повлиять на оценку. Даже если они смогут убедительно доказать обратное. Это логичное решение: иначе начнется полномасштабная информационная война с риском перехода из онлайна в оффлайн.
- «Нам остается только одно: соблюдать правила информационной гигиены, мыслить критически, научиться анализировать себя и узнавать правду. Взрослая аудитория достаточно консервативна: можно ставить любые ярлыки, но те, кто старше 55 лет, справляются». В социальных сетях и мгновенном общении люди по-прежнему будут искать истину в тех местах, к которым они привыкли. Но с подростками нужно работать системно. Кстати, в нашей академии мы предлагаем студентам одновременно два предмета — «Техники проверки фактов» и Open Source Intelligence. Полученные навыки – даже на базовом уровне – помогут вам отличить правду от лжи без какого-либо вмешательства. И, кстати, вам не обязательно выбрасывать свой iPhone. «С улыбкой сказал декан Школы СМИ.
Более подробную информацию о программе обучения экспертов в медиасфере вы можете найти по следующим ссылкам, а если вы серьезно настроены развивать и совершенствовать GPT, то можете отправиться непосредственно в Академию искусственного интеллекта.
