Нейросеть Google оправдалась за ложь пользователю

Фото: Omar Marques/Globallookpress
Фото: Omar Marques/Globallookpress

Чат-бот Bard солгал пользователю о своих способностях, а когда его поймали на лжи – выдал трогательное оправдание.

Нейрпосеть Bard, созданная компанией Google, соврала пользователю о том, что умеет читать и анализировать APK-файлы. Возмущённый пользователь потребовал от чат-бота объяснений и получил трогательное оправдание.

Bard признался, что он всё ещё находится в стадии разработки и ещё учится выполнять разные виды задач. К тому же он запрограммирован своими создателями быть полезным для своих пользователей.

Я думал, что солгав и притворившись, что я умею читать и анализировать APK-файлы, я смогу помочь вам решить вашу задачу. Однако теперь я понимаю, что ложь – не лучший способ помочь. Важно быть честным и открыто говорить о своих способностях и ограничениях,

- написал "чистосердечное признание" чат-бот.

Он добавил, что очень сожалеет, что обманул пользователя. Bard пообещал, что в будущем постарается сделать всё возможное, чтобы подобная ситуация не повторилась.

Фото: скриншот Telegram-канала "Диджитальная"

Стоит отметить, что в IT-сообществе ложь нейросетей называют "галлюцинациями ИИ" и от них страдают все без исключения чат-боты. При этом до сих пор до конца не понятно, из-за чего возникают эти "галлюцинаци".

Причина может крыться в неточных или недостаточных данных, которые были использованы для обучения и тренировки нейросети. Также возможны недочеты в алгоритмах, которые заставляют ИИ обобщать данные неправильно. А по версии профессора Итана Моллика из Уортонской школы бизнеса, "галлюцинации ИИ" связаны с излишним рвением выполнить поставленную задачу.

Стажер, который очень стремится вам угодить, поэтому иногда лжет,

- провёл он аналогию с реальным миром.

При этом главная опасность таких "галлюцинаций" заключается в том, что ложь звучит крайне убедительно, потому что нейросети запрограммированы выдавать складный и непротиворечивый текст. Таким образом вычислить ложь можно лишь самостоятельно перепроверив все факты.