В открытом доступе через поисковую выдачу Google оказались многочисленные переписки с чат-ботом Anthropic Claude и данные мини-приложений Artifacts. Среди общедоступных данных обнаружились медицинские записи, конфиденциальные документы компаний, а также имена и номера телефонов несовершеннолетних.
Проблема, предположительно, возникла из-за функции «Поделиться перепиской» в Claude — она позволяет пользователям создавать ссылки, которые позволяют любому их обладателю читать переписку или проект. «Просмотр доступен любому при наличии ссылки», — гласит системное предупреждение самой платформы Claude. Под этим ясно подразумевается, что функция предназначена для передачи данных друзьям, коллегам и небольшим группам лиц, но не всему интернету. Аналогичная функция есть у «Google Документов», но в поиске Google они массово не появляются.
Anthropic обвинила в инциденте самих пользователей. Эти ссылки появляются в поиске только в том случае, если они публиковались на любых ресурсах, доступных поисковыми системам, например, на форумах или в соцсетях; отправленная кому-либо в частном порядке ссылка в поиске не появится, заявили в Anthropic ресурсу TechCrunch. «Мы предоставляем людям контроль над публичным обменом своими переписками с Claude, и в соответствии с нашими принципами конфиденциальности мы не передаём каталоги чатов или карты сайта поисковым системам, таким как Google. Эти ссылки невозможно угадать или обнаружить, если люди не решат ими поделиться сами. Когда кто-то делится перепиской, он делает этот контент общедоступным, и, как и другой общедоступный веб-контент, он может попасть в архивы сторонних сервисов», — отметил представитель Anthropic.
К настоящему моменту проблема устранена, и переписки пользователей с Claude пропали из поисковой выдачи Google. Но до этого журналисты ресурса Futurism обнаружили в ней «подробный медицинский отчёт реального пациента, результаты клинических испытаний, в том числе имена пациентов, документы с именами и номерами телефонов детей младшего школьного возраста, документы компании с пометкой только для внутреннего использования, и отзывы сотрудников с личной информацией о работниках».
«Ни Google, ни какая-либо другая поисковая система не контролируют, какие страницы становятся общедоступными в интернете, и эти страницы были проиндексированы многими поисковыми системами. Мы предоставляем владельцам сайтов чёткие механизмы контроля, позволяющие решать, могут ли страницы индексироваться или сканироваться, и мы всегда уважаем эти директивы», — добавили TechCrunch в Google.
ничего страшного, этим говном пользуются только обоссаные пидоры. нормальные люди юзают локальные ллмки полностью ансенсоред. ну а всякие лохи продолжают платитьь за мусор)
В США задумались о запрете китайских открытых ИИ-моделей, включая нашумевшую Kimi K3
Появление китайской открытой языковой модели Kimi K3 с открытыми весами (open-weight) от Moonshot спровоцировало новую волну дискуссий в США о будущем открытых ИИ-моделей и возможных ограничениях на их использование. Обсуждение затронуло как интересы американских разработчиков искусственного интеллекта, так и вопросы технологической конкуренции с Китаем.
Поводом для обсуждения, как следует из сообщения TechCrunch, стали заявления руководителя направления стратегического развития OpenAI Дина Болла (Dean W. Ball), предложившего создать регуляторную неопределённость вокруг открытых моделей, поскольку они, по его мнению, способны снизить объёмы инвестиций в разработку передовых ИИ-систем. После критики со стороны представителей отрасли, включая Янна Лекуна (Yann LeCun) и Мартина Касадо (Martin Casado), он отказался от своих слов о необходимости подобной стратегии и признал, что открытые модели не обязательно замедляют развитие технологии.
По мнению ряда экспертов, открытые модели, развёртываемые на собственной инфраструктуре компаний, способны предложить более дешёвую альтернативу коммерческим сервисам Anthropic и OpenAI. Соучредитель Snorkel AI Брэйден Хэнкок (Braden Hancock) отметил, что распространение таких систем может привести к снижению стоимости передовых моделей, одновременно увеличив общий объём использования искусственного интеллекта.
Одним из аргументов сторонников ограничений остаются опасения по поводу китайских моделей, включая возможную передачу данных, влияние на содержание ответов и отсутствие предусмотренных американскими требованиями механизмов защиты. Вместе с тем специалисты отмечают, что при запуске открытых моделей на серверах в США риск передачи данных в Китай считается маловероятным, хотя полностью исключить такую возможность нельзя.
Генеральный директор Hugging Face Клем Деланг (Clem Delangue), в свою очередь, заявил, что ограничения открытых моделей не сделают искусственный интеллект безопаснее, а лишь усилят концентрацию технологий в руках нескольких компаний. Одновременно исследователь Центра безопасности и новых технологий Джорджтаунского университета Сэм Бресник (Sam Bresnick) считает более эффективной мерой дальнейшее ужесточение экспортных ограничений на поставки современных ИИ-чипов Nvidia в Китай.
При этом, как отмечают участники дискуссии, экономическая модель рынка искусственного интеллекта остаётся неопределённой. По словам Бресника, как открытый, так и закрытый подходы к разработке ИИ пока не доказали свою долгосрочную эффективность, а компании по обе стороны Тихого океана продолжают искать способы окупить растущие затраты на обучение моделей.
Сообщается, что администрация президента Дональда Трампа (Donald Trump) рассматривает возможность запрета Kimi K3 и других передовых китайских моделей по инициативе американских разработчиков ИИ. При этом Министерство торговли США не планирует принимать подобные меры в ближайшее время.
Проблема, предположительно, возникла из-за функции «Поделиться перепиской» в Claude — она позволяет пользователям создавать ссылки, которые позволяют любому их обладателю читать переписку или проект. «Просмотр доступен любому при наличии ссылки», — гласит системное предупреждение самой платформы Claude. Под этим ясно подразумевается, что функция предназначена для передачи данных друзьям, коллегам и небольшим группам лиц, но не всему интернету. Аналогичная функция есть у «Google Документов», но в поиске Google они массово не появляются.
Anthropic обвинила в инциденте самих пользователей. Эти ссылки появляются в поиске только в том случае, если они публиковались на любых ресурсах, доступных поисковыми системам, например, на форумах или в соцсетях; отправленная кому-либо в частном порядке ссылка в поиске не появится, заявили в Anthropic ресурсу TechCrunch. «Мы предоставляем людям контроль над публичным обменом своими переписками с Claude, и в соответствии с нашими принципами конфиденциальности мы не передаём каталоги чатов или карты сайта поисковым системам, таким как Google. Эти ссылки невозможно угадать или обнаружить, если люди не решат ими поделиться сами. Когда кто-то делится перепиской, он делает этот контент общедоступным, и, как и другой общедоступный веб-контент, он может попасть в архивы сторонних сервисов», — отметил представитель Anthropic.
К настоящему моменту проблема устранена, и переписки пользователей с Claude пропали из поисковой выдачи Google. Но до этого журналисты ресурса Futurism обнаружили в ней «подробный медицинский отчёт реального пациента, результаты клинических испытаний, в том числе имена пациентов, документы с именами и номерами телефонов детей младшего школьного возраста, документы компании с пометкой только для внутреннего использования, и отзывы сотрудников с личной информацией о работниках».
«Ни Google, ни какая-либо другая поисковая система не контролируют, какие страницы становятся общедоступными в интернете, и эти страницы были проиндексированы многими поисковыми системами. Мы предоставляем владельцам сайтов чёткие механизмы контроля, позволяющие решать, могут ли страницы индексироваться или сканироваться, и мы всегда уважаем эти директивы», — добавили TechCrunch в Google.
https://3dnews.ru/1145843/perepiski-polzovateley-s-anthropic-claude-okazalis-v-poiske-google