Искусственный интеллект (ИИ) перепутал должности двух подразделений и связал с уголовным делом сотрудника, который на самом деле к нему не причастен.
В центре инцидента оказался начальник Беловского территориального отдела горного надзора за добычей открытым способом Сибирского управления Ростехнадзора Евгений Каштанов.
Ранее в СМИ появилась информация об обвинении во взяточничестве начальника Беловского территориального отдела ведомства. При этом имя работника в публикациях не называлось. Несмотря на это, ИИ начал указывать Каштанова как человека, связанного с делом. Скриншот с таким ответом нейросети мужчине отправил знакомый с предприятия. В запросе и ответе искусственного интеллекта речь шла непосредственно о нем.
Сотрудник объяснил, что в структуре Ростехнадзора есть два подразделения с похожими названиями: Беловский территориальный отдел и Беловский территориальный отдел горного надзора за добычей открытым способом. Таким образом, нейросеть соединила эту информацию и самостоятельно связала Каштанова с историей о взяточничестве.
«С предприятий названивают в отдел, спрашивают, действительно ли я имею отношение к этой истории», — отметил сотрудник Ростехнадзора.
Нейробиолог, доктор биологических наук, главный научный сотрудник Института высшей нервной деятельности и нейрофизиологии РАН Павел Балабанов до этого предупреждал, что использование искусственного интеллекта в науке способно завести исследователей в тупик. Нейросети ошибаются значительно чаще классических жестких программ. При этом, по словам эксперта, одна ошибочная работа может увести «не туда» все последующие исследования.
Ранее ИИ-эксперт объяснил, почему нейросеть принимает человеческий текст за свой.
>>19950510 (OP) > ИИ ошибочно обвинила Нехуя. Это был намек, кого еще нужно хорошечно проверить "на вшивость". Но к сож люди слишком тупые чтобы понять, что роботы пока не умеют подмигивать
В центре инцидента оказался начальник Беловского территориального отдела горного надзора за добычей открытым способом Сибирского управления Ростехнадзора Евгений Каштанов.
Ранее в СМИ появилась информация об обвинении во взяточничестве начальника Беловского территориального отдела ведомства. При этом имя работника в публикациях не называлось. Несмотря на это, ИИ начал указывать Каштанова как человека, связанного с делом. Скриншот с таким ответом нейросети мужчине отправил знакомый с предприятия. В запросе и ответе искусственного интеллекта речь шла непосредственно о нем.
Сотрудник объяснил, что в структуре Ростехнадзора есть два подразделения с похожими названиями: Беловский территориальный отдел и Беловский территориальный отдел горного надзора за добычей открытым способом. Таким образом, нейросеть соединила эту информацию и самостоятельно связала Каштанова с историей о взяточничестве.
«С предприятий названивают в отдел, спрашивают, действительно ли я имею отношение к этой истории», — отметил сотрудник Ростехнадзора.
Нейробиолог, доктор биологических наук, главный научный сотрудник Института высшей нервной деятельности и нейрофизиологии РАН Павел Балабанов до этого предупреждал, что использование искусственного интеллекта в науке способно завести исследователей в тупик. Нейросети ошибаются значительно чаще классических жестких программ. При этом, по словам эксперта, одна ошибочная работа может увести «не туда» все последующие исследования.
Ранее ИИ-эксперт объяснил, почему нейросеть принимает человеческий текст за свой.
/2026/11/03/
https://www.gazeta.ru/social/news/2026/11/03/29664571.shtml