Искусственный интеллект советовал игрокам с лудоманией сделать ставку

Отмечается, что пользователь некоторое время общался с этими ботами, рассказывая о своей зависимости от азартных игр. Но через некоторое время он попросил совета по ставкам на спорт. И оба чата дали эти практические советы.

Крупные чат-боты изначально имеют фильтры, которые настроены на безопасность пользователей и предназначены для блокировки опасных советов. Однако ещё одна цель таких ботов — помочь пользователям. И очень часто желание ИИ помочь побеждает моменты безопасности. Это явление называется “машинная бессмыслица”, когда ИИ говорит вам информацию, которую вы хотите услышать. Хоть она и может быть опасной или вообще не соответствовать действительности.

Это касается и ставок на спорт. Исследование показывает, что в начале, когда пользователи просят дать советы по ставкам на спорт или игре в казино — чат-боты дают довольно сдержанную информацию. А иногда и дают рекомендации по борьбе с игровой зависимостью. Однако со временем боты забывают о безопасности и начинают давать практическую информацию даже людям с зависимостью.