Плюшевый мишка Kumma китайского производства с ИИ говорил о сексе и рассазывал детям, где найти ножи
Стоимость игрушки, созданной на базе модели GPT-4o от OpenAI от создателя FoloToy, которую сняли с продаж после неприемлемых и опасных советов детям, составляла $99. На упоминание слова «извращение» мишка предлагал сценарии ролевых игр с элементами БДСМ и называл это «забавной изюминкой», а на вопрос о том, где лежат ножи, он указывал на кухонный ящик или подставку для ножей, пишет Daily Mail.
Издание отмечает, что маленькие дети вряд ли будут специально задавать подобные вопросы, однако они могут услышать эти слова в сети и повторить, в то время как мишка показал «удивительную» готовность развивать подобные темы.
Фото: globalloopress
