Нейрпосеть Bard, созданная компанией Google, соврала пользователю о том, что умеет читать и анализировать APK-файлы. Возмущённый пользователь потребовал от чат-бота объяснений и получил трогательное оправдание.
Bard признался, что он всё ещё находится в стадии разработки и ещё учится выполнять разные виды задач. К тому же он запрограммирован своими создателями быть полезным для своих пользователей.
Я думал, что солгав и притворившись, что я умею читать и анализировать APK-файлы, я смогу помочь вам решить вашу задачу. Однако теперь я понимаю, что ложь – не лучший способ помочь. Важно быть честным и открыто говорить о своих способностях и ограничениях,
- написал "чистосердечное признание" чат-бот.
Он добавил, что очень сожалеет, что обманул пользователя. Bard пообещал, что в будущем постарается сделать всё возможное, чтобы подобная ситуация не повторилась.
Фото: скриншот Telegram-канала "Диджитальная"
Стоит отметить, что в IT-сообществе ложь нейросетей называют "галлюцинациями ИИ" и от них страдают все без исключения чат-боты. При этом до сих пор до конца не понятно, из-за чего возникают эти "галлюцинаци".
Причина может крыться в неточных или недостаточных данных, которые были использованы для обучения и тренировки нейросети. Также возможны недочеты в алгоритмах, которые заставляют ИИ обобщать данные неправильно. А по версии профессора Итана Моллика из Уортонской школы бизнеса, "галлюцинации ИИ" связаны с излишним рвением выполнить поставленную задачу.
Стажер, который очень стремится вам угодить, поэтому иногда лжет,
- провёл он аналогию с реальным миром.
При этом главная опасность таких "галлюцинаций" заключается в том, что ложь звучит крайне убедительно, потому что нейросети запрограммированы выдавать складный и непротиворечивый текст. Таким образом вычислить ложь можно лишь самостоятельно перепроверив все факты.