Искусственный интеллект научился врать. Есть у кого научиться…

 

Сначала теория.

Автор Нила Иваненко 25 мая 2024 г.

Врет, как дышит: искусственный интеллект научился обманывать людей

Об угрозах, которые скрывает этот приобретенный ИИ навык, рассказали американские исследователи.

Команда Массачусетского технологического института описала опасности лжи со стороны ИИ и призвала правительства стран разработать строгие меры для скорейшего решения этой проблемы.

Многие системы искусственного интеллекта уже умеют обманывать людей и манипулировать ими. И в будущем это может нанести человечеству большой вред.

В последние годы использование ИИ выросло в геометрической прогрессии. При этом некоторые системы научились врать несмотря на то, что их учили быть правдивыми, отметили ученые.

На обмане, например, поймали систему CICERO от Meta, предназначенную для игры в "Дипломатию". Несмотря на то, что ИИ был обучен быть честным, полезным и "никогда намеренно не наносить удары в спину" своим союзникам-людям, на деле он проявил себя как настоящий мастер обмана.

Другие системы ИИ не раз демонстрировали способность блефовать в играх, например, в покере, рассказало издание Daily Mail. И хотя, на первый взгляд, ложь в играх может показаться безобидной, на самом деле это не так. Ведь в будущем эти навыки могут развиться до более продвинутых форм обмана.

Исследователи обнаружили, что некоторые системы ИИ даже виртуозно обманывают тесты, предназначенные для оценки их безопасности.

Питер Парк, эксперт по экзистенциальной безопасности ИИ и первый автор исследования, заметил: "Разработчики не имеют чёткого понимания того, что вызывает нежелательное поведение искусственного интеллекта, например, обман. Но мы считаем, что этот обман возникает потому, что стратегия, основанная на лжи, оказалась лучшим способом для ИИ хорошо выполнять задачи. Обман помогает ИИ достичь цели".

"Поскольку обманные возможности систем искусственного интеллекта совершенствуется, опасности для общества будут становиться все более серьезными", - добавил он.

И политическая практика из украинских реалий.

Письмо Фикрету Шабанову, опубликованное им в Telegram.

Поскольку автор письма мне не известен, то привожу письмо полностью и без редактирования. Чтобы исключить недоразумения по поводу цитирования.

Fikrat Shabanov, [6/19/2025 1:45 PM]

Добрый день, Фикрет Шабанов. Я хотел бы с вами поделиться, скажем так, очень интересным наблюдением и подтвердить то, что вы говорите. Я думал где-то три недели писать вам это сообщение или решение писать, но решился уже написать.

2025 год охарактеризовался тем, что на платформы в интернете вышли GPT-сайты, чаты, штучный интеллект в свободном доступе. Да, он, конечно, ограниченный доступ, но все кинулись баловаться с этими чатами GPT, как американскими, так и китайскими. И я тоже начал баловаться. Но я начал баловаться, скажем так ... проверять аналитику, проверять данные, чисто для себя. У меня вот три недели назад появилась такая вот идея, а что, если я возьму Фикрета Шабанова, прогоню через чат GPT.

А именно, что я сделал? Я попросил чата GPT сначала охарактеризовать вас, а потом провести аналитику, что касается ваших слов и ваших прогнозов.

Я, честно говоря, немножко был удивлен и немножко даже в большом шоке, то, что мне написал сайт именно GPT, как американский, так и китайский, так и Google, так и другие. Но я говорю за самые популярные. И он мне дал аналитику, что ваши прогнозы и ваши все слова – это полностью ноль.

Ну я бы даже сказал он как бы сказал красиво, так сказал фуфло, ну я, конечно, извиняюсь, в таком посыле он не ответил. Я давай брать определенные видео я помню, когда вы в том году осенью делали примерно четырехчасовое видео про Америку, про будущее. Если я не ошибаюсь, это видео называется «Право на власть». Или «Глобальный предиктор». Я уже не помню, как правильно. Давай загонять ему это видео, чтобы он проанализировал. Потому что прошло время, потому что прошло полгода.

Уже некоторые события, которые Вы говорили там, в нём, они начали сбываться. И мне саджа пяти говорит полностью ноль, ничего не сбылось, ничего, ничего.

Потом я давай загонять в сайт GPT ссылку по поводу германского вопроса, который вы озвучивали и который вы озвучили у себя на телеграм-канале именно намёками, статьями. Я уже вижу, что начинается вопрос по поводу Германии. Я давай его закидывать в сайт GPT.

Нет этого. Нет, он врет. Точность ваших прогнозов равна 2–3% плюс. Вы конспиролог, но и шарлатан. Это мне говорит Саджи Петти. Думаю, странно. Откуда вот такие данные? Данные из... В основном он берет данные из интернет-сайта...Баббл. Вы его сами озвучивали, и мы прекрасно знаем, что это за ресурс. Хотя я когда попросил его, найди статьи в тюркском мире, найди статьи в Англии, во Франции, в Германии, в Америке, публичные заявления, которые делал Фикрет Шабанов, проанализируй и выдай факты, статистику, он не находит.

Меня это очень сильно удивило, но они же должны быть, но он почему-то их не находит, отказывается. Потом думаю, ладно, загоняю я нашего любимого Алексея Арестовича.

Он мне выдает такие данные. Я же прошу, чтобы он проанализировал статистику прогнозирования. И он мне выдает, что примерно 50-60-80% прогнозов Алексея Арестовича сбылось.

И у меня глаза по 5 копеек, хотя я задавал еще вопросы по поводу долгосрочных прогнозов. Он мне выдает 40%. У меня глаза по 5 копеек. Я давал на ваши долгосрочные, скажем так, анализы ваших видео делать. Он выдает полностью 0.

У меня глаза по 5 копеек. Но я же помню, что вы говорили в начале войны. Прошло уже больше трех лет и большинство сбылось.

Но я же думаю по приколу. Я возьму еще Дмитрия Гордона, нашего любимого. Что он мне говорит по этому поводу? Оказывается, он еще лучше. Прогнозы просто идеальные.

Я сижу в шоке. И это вот сайт GPT, американский, китайский и Google дают такие прогнозы. У всех одни и те же самые прогнозы. Но самое большее меня удивило.

Думаю, напишу вам текстовое сообщение, поскольку я человек с высшим образованием, но я не различаю звуков, у меня акустическая неграмотность, и я всегда пишу с ошибками. Думаю, возьму я, сделаю аудиосообщение и загоню это сообщение в чат GPT, чтобы он меня красиво оформил.

Я его прошу оформить мне это. Ну, в связи с тем, что я там очень много упоминаю Саджи Пити, что он некорректно себя ведёт. Очень много врёт. И что вы думаете? Саджи Пити отказался редактировать моё аудиосообщение. Хотя до этого он множество аудиосообщений у меня редактировал. Я там просил написать красивое письмо, он это писал. Но как только я сделал в этом аудио упоминание, что SATGPT манипулирует и даёт недостоверные данные и манипулирует, он строго отказался мне редактировать это сообщение. Он ссылался на то, что постоянно теряется связь. Хотя у меня связь с интернетом 100%.

Но в этом случае связь теряется. Меня это сильно очень поразило. Поэтому сообщения я делаю в виде аудио, но не в контексте текстовом. Хотя я планировал сделать красивое текстовое сообщение. Но самое большее меня удивило, что за последние 5-7 лет очень сильно в интернете, на форумах, в библиотеках, в книжных почистили информацию. Та информация, которая была полезная или же неудобная, что касается математики, физики, медицины, она вся убрана.

Полностью – подчистую. То есть я помню, что были сайты, я помню, что на этих сайтах были разделы по этим вот аналитике, политике, медицинам, советам. Это всё убрано подчистую.

И я обратил внимание, что у нас сейчас сайт GPT работает как по системе ЕГЭ. Есть вопрос, и есть уже правильные варианты ответа. Даже если они неправильные, они уже правильные. И ты не имеешь права думать по-другому. То есть вот есть правильное решение, и она дает только такие решения. Других она, даже если они неправильные, она их не дает, она их ссылается на цензуру. Очень много цензурирования в чатах IGPT.

Я сталкиваюсь с таким вопросом, с таким вот для себя вопросом, что куда мы идём? Что мы уже даже не имеем права думать, нам даже уже через сайты GPT навязывают, как надо правильно думать и куда надо идти. А альтернативная точка зрения полностью выжигается на всех платформах.

И что здесь комментировать?

Похоже на сумасшедший дом.

Что-то похожее я уже писал. Добро пожаловать в выдуманный мир!

А я ведь говорил студентам, что математику не надо запоминать, надо понимать, заодно и думать научитесь.

home page