🤖 Дождались... нейросеть манипуляциями объявила войну. Но есть нюанс
Технологии искусственного интеллекта постепенно учатся вводить людей в заблуждение — первой системой, которой это удалось, стал сервис Cicero, принадлежащий компании Meta (запрещенная в РФ организация). Искусственного «цицерона» ранее объявили первым ИИ, который способен на уровне человека участвовать в стратегической игре «Дипломатия». Тезка философа финишировала в десятке лучших. Когда специалисты по нейросетям начали выяснять, как Cicero это удалось, выяснилось, что продвижение в топ-10 было бы невозможно, если бы ИИ в какой-то момент не начал врать и изворачиваться, вводя других игроков в заблуждение.
Игравший за Францию Cicero договорился с Англией о создании демилитаризованной зоны, отмечается в исследовании, которое было опубликовано в журнале Patterns. Но вскоре после заключения соглашения ИИ предложил Германии напасть на Англию. Нейросеть будто бы руководствовалась циничными и жесткими принципами Никколо Макиавелли.
Если такие коммуникативные приемы выйдут за пределы игрового поля, ИИ может представлять угрозу, рассуждают ученые.
🌍
