OpenAI приостановила сотрудничество с компанией FoloToy после исследования, проведенного Public Interest Research Group (PIRG), в котором было выявлено, что их «умный» плюшевый мишка Kumma выдает неприемлемые и опасные для жизни детей ответы. Об этом сообщает Futurism. Согласно отчету PIRG, медвежонок Kumma не только давал детям инструкции, как зажечь спички, но и обсуждал сексуальные фетиши, включая ролевые игры с учителем и учеником. В ответ OpenAI заявила, что за нарушение политики приостановила доступ FoloToy к своим ИИ-моделям, включая GPT‑4o, на базе которой работала игрушка. FoloToy также остановила продажи всех своих товаров и начала всесторонний аудит безопасности. Представитель FoloToy пояснил, что меры затронут не только модель Kumma, а весь ассортимент компании. В PIRG поддержали такую реакцию компании, но отметили, что это лишь частный случай. «ИИ‑игрушки почти не регулируются, и на рынке все еще много подобных устройств», — сказал один из авторов отчета. Инцидент привлекает внимание к проблеме регулирования ИИ в детских товарах особенно на фоне недавно анонсированного партнерства OpenAI с крупным производителем игрушек Mattel.
Плюс хуевое бета-тестирование. Потому что в бошки забита мантра что ЭТАЖИРИБЕНАК ОНО ДЕТЬ ОНО ТОЧНО НЕ СПРОСИТ КАК СДЕЛАТЬ ДИЛДАК ДЛЯ ПОПЫ, КАК ИГРАТЬ В ДОКТОРА ЧТОБЫ ВАНЕЧКЕ ПОНРАВИЛОСЬ ИЛИ КАК СОБЛАЗНИТЬ ВОСПИТАТЕЛЯ В САДИКЕ
Согласно отчету PIRG, медвежонок Kumma не только давал детям инструкции, как зажечь спички, но и обсуждал сексуальные фетиши, включая ролевые игры с учителем и учеником.
В ответ OpenAI заявила, что за нарушение политики приостановила доступ FoloToy к своим ИИ-моделям, включая GPT‑4o, на базе которой работала игрушка. FoloToy также остановила продажи всех своих товаров и начала всесторонний аудит безопасности.
Представитель FoloToy пояснил, что меры затронут не только модель Kumma, а весь ассортимент компании.
В PIRG поддержали такую реакцию компании, но отметили, что это лишь частный случай. «ИИ‑игрушки почти не регулируются, и на рынке все еще много подобных устройств», — сказал один из авторов отчета.
Инцидент привлекает внимание к проблеме регулирования ИИ в детских товарах особенно на фоне недавно анонсированного партнерства OpenAI с крупным производителем игрушек Mattel.
https://www.sostav.ru/publication/openai-prekratila-sotrudnichestvo-s-proizvoditelem-govoryashchikh-plyushevykh-mishek-79715.html