Искусственный интеллект научился врать. Есть у кого научиться…

Сначала теория. Автор Нила Иваненко 25 мая 2024 г. Врет, как дышит: искусственный интеллект научился обманывать людей Об угрозах, которые скрывает этот приобретенный ИИ навык, рассказали американские исследователи. Команда Массачусетского технологического института описала опасности лжи со стороны ИИ и призвала правительства стран разработать строгие меры для скорейшего решения этой проблемы. Многие системы искусственного интеллекта уже умеют обманывать людей и манипулировать ими. И в будущем это может нанести человечеству большой вред. В последние годы использование ИИ выросло в геометрической прогрессии. При этом некоторые системы научились врать несмотря на то, что их учили быть правдивыми, отметили ученые. На обмане, например, поймали систему CICERO от Meta, предназначенную для игры в "Дипломатию". Несмотря на то, что ИИ был обучен быть честным, полезным и "никогда намеренно не наносить удары в спину" своим союзникам-людям, на деле он проявил с...