Microsoft Bing заявил, что его конкурента от Google Bard свернули. Источником ошибки стала статья с твитом, в котором шутили про Bard. Это наглядно демонстрирует, как боты могут участвовать в раскручивании спирали дезинформации в сети и привести к снижению качества информации, отмечает The Verge.
Пару дней назад кто-то на Hacker News пошутил, что Google закроет Bard через год. Другой пользователь в комментариях попросил ChatGPT сгенерировать новость о том, что Google закрыла Bard спустя менее чем через полгода после релиза, потому что тот якобы не смог стать популярным. Далее действие перемещается в Twitter, где один из юзеров рассказал, что спросил Bard насчёт его закрытия. На удивление, чатбот сказал, что его и так уже закрыли (что, очевидно, неправда), сославшись на тот самый комментарий с Hacker News. Вскоре о твите и чатботе, который сам не может определить, жив он или мёртв, написал портал Windows Central.
После этого журналисты The Verge решили спросить по поводу Bard уже у Bing. Неожиданным образом чатбот Microsoft тоже согласился, что Bard таки закрыт, сославшись на статью Windows Central. К моменту выхода материала The Verge в Microsoft успели исправить ошибку – Bard теперь отвечает, что Bard все ещё дышит (и это правда).
Плюс, отмечают журналисты, во всём этом в том, что ошибки чатботов хотя бы можно исправить. Минусов гораздо больше: например, пока что нет удобного способа сообщать о таких ошибках разработчикам. Кроме того, чатботы на текущий момент не умеют фильтровать информацию и источники, отличать факты от вымысла, интерпретировать комментарии о самих себе и путаются в своих же способностях. Это может привести к распространению фейков в ответах самих чатботов и в дальнейшем в интернете, а также к падению доверия к информации в сети. В данном случае отправной точкой стала безобидная шутка на форуме, но если кто-то захочет намеренно сломать подобные ИИ-системы, всё может быть гораздо опаснее. Дисклеймеры Google и других разработчиков, что их чатботы «всего лишь эксперимент», «пока на ранней стадии» и «могут ошибаться», будут слабым оправданием.
Источник: devby.io
