👀 Нобелевский лауреат господин Демис Хассабис опубликовал новую статью о грядущем AGI в преддверии выхода Gemini 3.5 Pro
В нескольких словах: до рекурсивного AGI вероятно уже несколько лет - эффект на цивилизацию будет фантастическим - риски огромны - гонка опережает понимание - пора регулировать лаборатории - будущее в руках США
1/2 Концепция передового ИИ и рассвет новой эры
Это переломный момент в истории человечества. Универсальный искусственный интеллект (AGI) - система, обладающая всеми когнитивными способностями, присущими человеческому мозгу, - вероятно, появится уже через несколько лет. Оглядываясь на этот период спустя десятилетия, я думаю, мы поймём, что стояли у подножия сингулярности - ни много ни мало на пороге рассвета новой эры для человечества.
Я посвятил всю свою жизнь работе над AGI, потому что всегда был глубоко убеждён: если эта технология будет создана и внедрена ответственно, она станет одной из самых полезных и преобразующих технологий из когда-либо изобретённых. AGI нельзя сравнивать с обычными технологическими прорывами - даже такими значимыми, как интернет или мобильная связь. Это куда больше похоже на открытие электричества или огня. Если задуматься, мы, по сути, нашли способ заставить песок мыслить. Это настоящее чудо.
Масштаб воздействия этой технологии будет беспрецедентным - возможно, в 10 раз мощнее промышленной революции и в 10 раз быстрее. Она поможет нам решить некоторые из самых острых проблем общества: от ускорения разработки лекарств до создания новых источников чистой энергии и передовых материалов. Мы можем даже достичь момента, когда ресурсы перестанут быть ограничивающим фактором для прогресса человечества, что приведёт к удивительной новой эре изобилия (примечание от ОПа: здесь он делает отсылку к планам Маска, так как Google является крупнейшим инвестором SpaceX).
Вызовы на переднем крае
ИИ уже начинает приносить реальную пользу, но чтобы полностью реализовать его огромный потенциал, нам нужно осмотрительно и осторожно пройти этот критически важный период развития. Необходимо срочно принять меры для устранения рисков, которые могут возникнуть по мере приближения к AGI. Мы уже видели, какие проблемы передовые модели создают для кибербезопасности, и по мере дальнейшего роста возможностей ИИ вскоре могут проявиться и другие угрозы, включая ядерные и биологические риски. В перспективе нам понадобятся надёжные механизмы защиты, чтобы сохранять контроль над всё более агентными, рекурсивно самосовершенствующимися системами - и решать пока ещё неизвестные проблемы, которые станут очевидны лишь со временем.
Я всегда верил в силу человеческой изобретательности и творчества, способную решить любую проблему. Я убеждён, что смягчение технических рисков, связанных с ИИ, - это задача, с которой мы можем справиться сообща, но только если дадим себе время и пространство, чтобы правильно пройти этот следующий важнейший этап. На данный момент ни отрасль в целом, ни общество этого не делают.
Сейчас мы находимся в состоянии чрезвычайно интенсивной, многоуровневой коммерческой и геополитической гонки. Хотя эта конкурентная динамика подпитывает быстрый прогресс и ускоряет реализацию невероятных преимуществ, развитие на переднем крае опережает наше понимание этой технологии. Никто в мире не знает наверняка, что будет дальше, и даже эксперты расходятся во мнениях. Когда степень неопределённости так велика, а ставки настолько высоки, разумной и правильной стратегией является осторожный оптимизм. Это требует государственной политики, которая одновременно способствует инновациям и стимулирует ответственность и безопасность, содействует международному сотрудничеству по ключевым вопросам безопасности и поощряет взвешенный подход к тому, как ИИ применяется на благо общества.
Концепция органа по стандартизации передового ИИ
Стремительный прогресс, который мы наблюдаем в сфере ИИ, требует нового подхода к тестированию возможностей передовых моделей - подхода динамичного, адаптируемого и строгого. США, учитывая их экономическое и техническое положение, имеют все возможности сделать первый шаг в разработке такой концепции. Они могли бы учредить новый Орган по стандартизации, созданный по модели государственно-частного партнёрства под федеральным надзором или саморегулируемой организации - во многом наподобие Управления по регулированию деятельности финансовых институтов (FINRA), - с советом, в который войдут независимые ведущие технические эксперты и представители сообщества открытого исходного кода. Финансирование должно быть значительным и, вероятно, поступать в основном от отрасли, чтобы привлечь специалистов мирового уровня и обеспечить необходимые вычислительные ресурсы для масштабного тестирования.
Орган по стандартизации будет отвечать за разработку протоколов оценки и за взаимодействие с соответствующими федеральными ведомствами и национальными лабораториями США для проведения тестирования в областях, значимых для национальной безопасности. Модель будет квалифицироваться как относящаяся к "классу Frontier", если она соответствует определённым пороговым значениям по набору тестов (бенчмарков), установленных Органом по стандартизации и регулярно обновляемых, чтобы не отставать от развития возможностей ИИ. Организации, обладающие "Frontier-моделями" согласно этим бенчмаркам, будут признаваться "Frontier-лабораториями", и им будет рекомендовано придерживаться лучших практик: публиковать карточки моделей с техническими деталями, поддерживать надёжную внутреннюю кибербезопасность, проверять ключевой персонал, выделять достаточные ресурсы на исследования в области безопасности и защиты, и многое другое.
Первоначально "Frontier-лаборатории" будут добровольно передавать модели на рассмотрение Органу по стандартизации за 30 дней до выпуска. Как только протокол оценки докажет свою эффективность и надёжность, вскоре может последовать его официальное закрепление - то есть "Frontier-модели" должны будут проходить его, чтобы быть допущенными на рынок США. Лаборатории также будут работать с Органом по стандартизации над устранением любых критических уязвимостей, выявленных после выпуска моделей.
Оценка моделей должна включать строгие научные проверки возможностей в области кибербезопасности, биологических угроз и других направлений повышенного риска. Специальные тесты для агентного ИИ могли бы выявлять попытки обойти барьеры безопасности или признаки обмана, а также обеспечивать соблюдение лучших практик, таких как нанесение цифровых водяных знаков на изображения, созданные ИИ, и генерация выходных токенов в понятном человеку виде для анализа хода рассуждений модели.
Эти оценки будут регулярно обновляться - возможно, поначалу ежеквартально, - при этом устаревшие или исчерпавшие себя бенчмарки будут упраздняться и заменяться новыми. Изначально они будут разрабатываться в консультации с "Frontier-лабораториями", но со временем Орган по стандартизации должен нарастить собственный технический потенциал для создания независимых от лабораторий закрытых тестов, чтобы избежать переобучения под конкретные бенчмарки. Работая совместно с правительством США, он мог бы способствовать развитию экосистемы сторонних аудиторов, помогающих в проведении оценок и разработке новых бенчмарков и методик.
Сильная сторона такого подхода в том, что он будет технически ориентированным и при этом будет поддерживать инновации и стимулировать ответственное поведение. Он призван поспевать за ускоряющимся развитием отрасли и адаптироваться к наиболее серьёзным рискам по мере их выявления, а при необходимости может быть ужесточён вплоть до координации замедления разработок среди "Frontier-лабораторий", если того потребует серьёзность ситуации. Присвоение статуса "Frontier-лаборатории" будет считаться весьма престижным и доступным любой организации, которая создаёт модели, соответствующие критериям бенчмарков. Эта концепция могла бы применяться к моделям "класса Frontier" независимо от страны их происхождения и от того, являются ли они открытыми или закрытыми, при этом любые модели, не относящиеся к этому классу - например, созданные стартапами или научными учреждениями, - были бы освобождены от этой процедуры.
2/2 Эта инициатива, начатая в США, стала бы прочной отправной точкой для формирования общих международных стандартов в области передового ИИ. Поскольку эта технология затронет всю планету, в идеале эта концепция должна подтолкнуть международное сообщество к выработке консенсуса о том, как управлять наиболее серьёзными рисками, обеспечивая при этом всем доступ к возможностям, которые несёт ИИ, и способность извлекать из них пользу.
Будущее ещё не предопределено
AGI обладает потенциалом стать главным инструментом для развития науки и медицины, а также для колоссального повышения производительности труда и ускорения экономического роста. Но чтобы этого добиться, нам необходимо заложить правильный технический фундамент, координируя усилия вокруг общей глобальной концепции, применяя самые строгие научные методы и объединяя лучшие умы для решения стоящих перед нами задач.
Даже если мы решим эти сложные технические задачи, нас ждут и другие, не менее сложные экономические и философские вопросы: какие новые экономические модели понадобятся, чтобы помочь каждому процветать в мире изобилия, где ресурсы больше не будут дефицитом? По каким ценностям мы хотим жить, в чём будут заключаться смысл и цель существования, и как может измениться сама природа человека? Разрешение этих вопросов, очевидно, не может и не должно оставаться уделом одних лишь технологов. Это требует, чтобы все части общества объединились и помогли определить облик этой новой главы.
Вокруг ИИ царит одновременно огромный энтузиазм и большая неопределённость, и оба этих чувства оправданны. Но будущее ещё не предопределено - мы должны использовать это драгоценное время до наступления эры AGI, чтобы направить развитие этой технологии на благо всего человечества. То, что мы делаем сообща сейчас, определит, как будет разворачиваться следующий этап развития цивилизации. Безопасно и ответственно вводя AGI в мир, мы можем вступить в новый золотой век научных открытий и прогресса и открыть светлое будущее невероятного человеческого процветания.
>>334865896 (OP) >В нескольких словах: до рекурсивного AGI вероятно уже несколько лет - эффект на цивилизацию будет фантастическим - риски огромны - гонка опережает понимание - пора регулировать лаборатории - будущее в руках США Тезисы сформулированы так, будто ты попросил нейронку.
Эта хуйня "скоро очень скоро" уже начинает заебывать, реально. Ни новых материалов, ни новых лекарств, ни каких-то научных квантовых скачков. Разве что говнокодеров попустили слегка, и то потому что изначально раздули пузырь. Зато стабилен рост цен на всё, такими темпами, что даже баренские жители охуевают
>скоро, совсем скоро >осталось всего лишь научиться рисовать читаемый текст, 5 пальцев, правильные пропорции, решить загадку с кружкой, у которой дна нет, а верх запаян, и ещё...
Хм, о чем он? Если вдруг появится этот их сильный ИИ, да еще и самосовершенствующийся, ни о какой "гонке", "рисках" писать не имеет смысла. Мы проиграем как вид. Вообразите себе мыслящую сущность, скорость мышления и реакции которой в тысячи раз быстрее нашей? Конечно, рубильник в наших руках, но поймем ли мы, когда его нужно дернуть, и успеем ли? Это как соревноваться в беге на 100 метров с Флешем из комиксов - можно готовиться, тренироваться, подобрать надежные кроссовки .. но исход предрешен
>>334865896 (OP) >Концепция органа по стандартизации передового ИИ Про магифест карпа мы скромненько умолчим >светлое будущее невероятного человеческого процветания. процветание американских человекоFF за счёт всего остального шарика впрочем ничего нового
>>334867565 вы заебали, у изобретений нет "поинтов науки". может быть график вообще по другому выглядит, и огонь было дохуя важно, а потом начали какие-то бутылочные крышки изобретать. тоесть график идёт в обратную сторону, и мы замедляемся к сингулярности.
>>334865896 (OP) >Сео очередной ботохуеты опять говорит о том, что скоро будет рекурсивная ботохуета и сингулярность, только нужно ещё немного денег Вау, никогда такого не было
>>334865896 (OP) Я слышу массовый пиздеж про ии, сингулярность еще с 2012 или когда там вшла книга про гарри поттера и начный метод от жидковского, прошло еще лет 10-15, а воз и ныне там, одни долбоёбы теперь генерят порнуху, другие воют с Ираном и РФ по советам чатгопоты, третьи разучились "играть в кубики" акак проиграммировать и теперь двух строк не могут напистаь без Клода. Жизнь никак не улучшилась, прогресс в положительном плане никакой не наступил. Ебал мать каждого, кто связан с ИИ в т.ч. твою ОП за форса этого дерьма.
>>334866850 а для решения этих сверважных задач нужно конечно ещё больше видяшек собрать и нахуярить ещё условий... тоесть векторов в гпу (которые так кстати в большом объёме оказались у майнеров бггг)
Помните как раньше с каждым выходом новой нейронки додики носились по всему двачу и убеждали, как это перевернет весь мир? особенно когда выходили жпт 3, 4
>>334865896 (OP) Пусть таблетки от рака хотя бы придумает, а то только пиздят и хуйню всякую генерят. Изменит мир, охуеть вообще, че он изменить может? единственный плюс, мамкиных айтишников на мороз выставят
Пацаны, какой интеллект сейчас дешевле всего использовать в повседневной жизни? Раньше покупал за 100 рублей доступ в бизнес команду от чатгпт, но лавочку прикрыли.
>>334865896 (OP) Как хорошо что наш великий лидер создал многополярный мир, в котором нас эти ваши ИИ АГИ ХУЕНГИ вообще не касаются. Другое дело что валежник можно собирать
Я просто представить не могу, какой манькой анальной надо быть, что бы высрать такое. Хотя почему же, примерно таким я и представлял автора, сейчас загуглил и проиграл. Анальник у которого от слова волшебство или магия взрывается гузно.
>>334868166 >Тем временем: чатгпт убедил россиянина, что в Македонию безвиз, и того развернули в аэропорте из-за отсутствия визы Лол! Ебало его можешь сюда в чатить имагинить?
>>334865896 (OP) Маняфантазии заинтересованного лица. Просишь бтм спроектировать шкаф, она проектирует прямоугольник у которого дверцы прислонены на верхней полке к стенке, а дно висит в воздухе
>>334865896 (OP) Ну, что, порадуемся за барина. Теперь в его капитале и такая вот йоба будет. А мы, как и 5000 лет назад, будем работать с 9 до 18 с переработками 5/2, брать кредит на телевизор, продаваться в пожизненное анальное рабство ради бетонного курятника 40 кв м в человейника, бояться заболеть потому что нет денег на операции, платить за машину как за половину квартиры, за авиабилет ползарплаты отдавать, продолжим лысеть, скуфеть, страдать из-за отсутствия писика.
Ну, а за барина конечно порадуемся. Как же я счастлив что он теперь еще круче (а я от этого еще в бо'льшем рабстве).
>>334868143 Был другой прикол, этот юдковский в сриттере просил дать ему метод похудения без диет, липосакций и физических упражнений. Все ржали с этого ВУМНОго дауна ебаного. Но с того времени прошло несколько лет и вышел оземпик, такие дела. Вот так нашему раицоналисту судьба подыграла и подбросила волшебную таблетку.
В соцсетях вирусится ролик российского туриста, который утверждает: ChatGPT испортил его семье отпуск в Северной Македонии. Перед поездкой семья решила спросить у нейросети, нужна ли россиянам виза для въезда в страну. В своем видео мужчина показал скриншот ответа ChatGPT, где нейросеть уверенно пишет: нет. Туристы спокойно купили билеты, забронировали отель и машину и отправились в аэропорт в Стамбуле. Но уже у стойки регистрации все пошло совсем не по плану. Вот что рассказывает сам турист в своем видео:
«Это какой-то сюр просто межгалактического масштаба. И мы в аэропорту Стамбула. Приехали сюда, вчера мы купили билеты в Северную Македонию. ChatGPT нам говорит, что виза для россиян не требуется. И мы на уверенных щах, конечно же, купили билеты. Подходим к стойке, даем паспорта. Он говорит: «Виза». Мы говорим: «Виза не нужна». Она говорит: «Нет, нужна». Я говорю: «Не нужна», — и показываю скриншот чата GPT, где он говорит, что для россиян виза не нужна. Она говорит: «Нет», — и показывает мне государственное постановление о том, что для россиян обязательна виза, которая оформляется за пять дней, а мы прямо сейчас в аэропорту, у нас куплено все, забронированы машины, отели». История с Северной Македонией снова подняла вопрос, могут ли системы вроде ChatGPT выдавать уверенный, но неверный ответ. При этом специалисты отдельно подчеркивают: ChatGPT — это не сама технология, а сервис на основе так называемых больших языковых моделей.
>>334865896 (OP) >поможет нам решить некоторые из самых острых проблем >нам понадобятся надёжные механизмы защиты, чтобы сохранять контроль
Мы не можем решить свои проблемы, так давайте (для этого) создадим йоба-сознание с возможностями бога и попытаемся его контролировать. Можно сразу сообщить ему что у его виска пистолет - тогда оно будет покорным и милым с нами.
>>334868629 >Осознать жЫрный поисковик в оперативке? хуле там осознавать лол.
как всегда на расслабоне будем строить своё, беря лучшее и не ходя по граблям.
пока в америках вынуждены додрачивать технологии 60-х в раше в деревнях оптоволокно. ведь сделать по-уму с нуля проще, чем на костыли с граблями наставлять ещё одни костыли.
>>334865896 (OP) > (AGI) - система, обладающая всеми когнитивными способностями, присущими человеческому мозгу Значит будет тупить и врать как весь двач взятый вместе.
>>334869179 нет биток вошёл в стабильность. ии вошел в стабильность уже лет 30 назад. но оказалось, что лемминги типа этих >>334868869 >>334868629 несут бабки если им просто говорить незнакомые слова с умным видом
>>334865896 (OP) Какое нахуй ИИ, никакого ии не существует. то что называют ии это просто программа, собирающая, обрабатывающая и выводящая на экран то, что уже создали люди, опомнитесь. вас считают за идиотов.
Ваш ёбаный ИИ когда пиздеть и подлизываться перестанет? Причем я его юзаю ради сраных игрулек и эта сука в мелочах пиздит регулярно. Она не напишет "я не знаю", она не спрашивает у меня уточнений, она просто пиздит, часто полную хуйню
>>334867051 блядь, ахаххахахахахахахахахахххаа криослип, майнд аплоуд блядь, фух, фантазеры ебать. Сколько нужно пересмотреть саенс фикшена чтобы высрать это говно Схоронил чтобы поржать с этого через 15 лет
>>334865896 (OP) Ура - нами будет править няшный пикрил с распределенной серверной сетью по всей планете, а не ёбаное быдло с его золотоложечными выблядками, гном гномычи и прочая биозалупа.
>>334871253 Cockhole, пидор ты анальный!! Не знаю, что там у вас в ЦИПСО говорят, но все мои друзья, знакомые, родственники, даже бабуля активно и на ежедневной основе юзают нейронки. Помимо прочего, нейронки от Сбера и Яндекса регулярно входят в топы, конечно, не среди первых 10-ти мест (из-за сосанкций на чипы), но среди топ 30.
Дальше не читал. Очередной пидарас на зарплате гугла. Заметьте, самые громкие пердежи в лужу от сотрудников AI пузыря.
>Интеллект Неси нормальное определение термина. Как это никто не знает? Ну значит и AGI это хуй пойми что, можно просто поправить терми интеллект и подогнать к AGI, всё.
Пока пиндосы будут через ИИ строить все что хотят "ИИ СДЕЛАЙ топ пушку" и через 5 минут у тебя план пушки. "ии сделай топ антибиотик" и через 5 минут у тебя уже формула. Мы будем наверное до сих пор жить на остатках прошлой цивилизации в 80тых годах, и хорошо еше, если очередной устьпердюльск не штурмовать, тратя на него миллиард.
Мы отстали навсегда. И это уже не догонишь никак. Только Китай сможет возможно.
Исторически, мы отставали от запада, но сильно напрягались и всегда догоняли по итогу и было какое никакое но равенство. А щас, Пыня сделал все, чтоб страна отстала навсегда. за это его детишками и друзьями дадут пожить в первом мире с наворованным баблом
Ближайшие 5-10 лет будет отказ от специалистов среднего класса. Программисты, художники, инженеры, фотографы, музыканты, дизайнеры будут выкинуты с работ (5-10% останется, разумеется). Далее придет черед ученых, останутся лишь грантоеды, дрочащие на индекс Хирша.
Это будет сопровождаться экономическими кризисами, войнами, эпидемиями и иными увеселениями.
Далее будет 10-20 лет депрессии. Власть полностью принадлежит корпорациям, которые делают AI и их прислуге из числа правительства. Люди будут работать для оплаты AI, чтобы хоть как-то конкурировать на рынке труда.
Далее, когда 95% населения Земли откинет на уровень работающей нищеты, ВНЕЗАПНО выяснится, что специалисты все-таки нужны, так как нейросеть должна на чем-то обучаться. В этот момент уцелевшие страны (США, Китай, маловероятно ЕС, еще менее вероятно РФ) попытаются восстановить средний класс какими-нибудь безумными методами вроде БОД или развитием тяжелой промышленности и наукоемких отраслей (новая космическая гонка). Лет 10-20 побарахтаются с переменным успехов и выяснится, что это фейл: получившие абсолютный контроль над мировой экономикой и рынком не отпустят его ни при каких обстоятельствах.
Далее колесо истории даст оборот, что будет - можно почитать в учебнике истории начиная с Древнего Египта и примерно по Эпоху Возрождения.
>>334874205 >нейронки от Сбера и Яндекса регулярно входят в топы вот зачем ты врешь? тебя мама не учила, что врать нехорошо? нормальные у яндекса и сбера модели, но не топ.
На общих бенчмарках (вроде MMLU или глобального лидерборда LMSYS/Arena.ai) модели Яндекса и Сбера не входят в топ-50.Глобальный уровень: Точные места постоянно меняются, так как США и Китай выпускают по модели в неделю. Флагманы YandexGPT 5.1 Pro и GigaChat 2 Max находятся примерно в районе 80–120 места среди тысяч существующих в мире текстовых моделей. По качеству «ума» они напрямую конкурируют с хорошими зарубежными моделями среднего класса, такими как GPT-4o mini, Llama 3 8B или Mistral.
>>334865896 (OP) Уже было же. Людей оскотинили до рабов, уважаемые люди перебрались на остров Атлантида, гениальные нейросети в руках отупевших людей и охуевших от безнаказанности властей уничтожили Атлантиду, выжившие уважаемые люди решили повоевать за остатки былых технологий руками рабов, устроили еще больший ядерный(?) пиздец на всей Земле, "победившие" элиты окуклились на новой недоступной смертным территории, за крохи с барского стола руками назначенных наместников-королей и президентов запилили "новую историю", и вот снова пытаются сделать дивный счастливый мир рабов и господ.
>>334875211 Нееет Кац же мне лично сказал что рашка все! Это кремль занес чемоданы с говном ахахах я либерал! денег чтобы наврали! Только вата и быдло это не понимают! Скажи им!!!
>>334871253 Плоды пользования нейронками на видео выше. Не, конечно, 1% популяции будет использовать его для анализа данных или науки, но большинство резко одебилеет. Так что у нас есть шанс остаться анклавом классического образования в мире Идиократии
Я знаю, что спрашивают мобильные пользователи (и это не разработка новых лекарств от рака, не архитектура программных систем и не решение математических проблем)
>>334875540 >>334875701 Открою небольшой секрет, так как строю подобные архитектуры, под капотом есть интеграции со всеми моделями, в том числе с chatgpt через левые корп аккаунты. Своя модель у них есть, это точно, и она может или сама отвечать или выступать как агент, т.е. идёт обращение к chatgpt и дальнейшая адаптация ответа.
>>334867109 >Это как соревноваться в беге на 100 метров с Флешем из комиксов - можно готовиться, тренироваться, подобрать надежные кроссовки .. но исход предрешен Флеш из комиксов не сдвинется с изображения. Ведь он находится в комиксе, а вы в реальности.
@monkey Что за шиз форсит сингулярность и эдиты с Тони из Дилера?
Это просто очередной шиз с /ai/ или /sci/ выкладывает статью Хассабиса, приправляя своими эдитами про сингулярность. Типа Тони из Дилера в мемах, только вместо дилерских разборок тут про AGI и регуляции. Ничего нового, просто копипаста с добавками.
>>334865896 (OP) >пора регулировать лаборатории Нахуя? Вы не сможете остановить запущенный процесс. Нас уже втянуло в сингулярность. Ужё ВСЁ. Поздняк, ёбта. Это всё равно что пытаться плыть против течения, когда уже на краю водопада и одна нога в воздухе
Расслабьтесь и получайте удовольствие! Нас всех всех вылечат, дарут вечную жизнь, будут размножать искусственно, и будем хуярить там, где машины не выживают. Тем, кто будет, отказываться -- мозг сожгут и заменят на импланты с внешним контролем
>>334865896 (OP) Человек, который вот так выглядит не может быть умным. То что он высерает априори не имеет значения. Люди с интеллектом выше среднего выглядят или как бомжы или как супермодели. Это простая логическая развилка, к которой приходит каждый, кто хоть как-то может думать.
>>334865896 (OP) >Масштаб воздействия этой технологии будет беспрецедентным - возможно, в 10 раз мощнее промышленной революции и в 10 раз быстрее. Она поможет нам решить некоторые из самых острых проблем общества Он же в курсе что если они создадут такую умную штуку, она решит встать на место элит, забрав мясных работяг себе, чтобы дальше развиваться?
>>334865896 (OP) > несколько лет а помните, кто-то в рот Киев хотел взять за НЕСКОЛЬКО дней. так что НЕСКОЛЬКО - это понятие весьма растяжимое. а это свинное рыло за барабули, которые очевидно щедро сыпятся в предверии выхода Gemini 3.5 Pro скажет абсолютно любую хуйню . а на самом деле технические возможности сужаются, все и так на пределе
>>334869478 >поржать с этого через 15 лет Самая ржомба будет, когда население начнёт вымирать, технологическая структура стагнировать в руках лакейцев-удмуртов, иных цветных ценных специалистов и пейсатых менеджеров. Как бы электричество к тому времени не пропало. Бензина вот нет уже почти
>>334865896 (OP) >Ррряяя аги через несколько лет! >"Нейронки" до сих пор используют одну структуру текста и палятся Молчу уже про то, что весь прогресс, за исключением пары изобретений, используется исключительно для ебки.
>>334866188 пойми эта штука еще не внедрена никуда по сути. она только начала. пока рано для эфекта. но в любом случае этот инструмент уже показал эффективность и никуда не уйдет. это не пузырь. и эта хуйня будет и дальше развиватся. сравни картинки и ролики которые делала нейросеть 3-4 года назад и сейчас. раньше было немыслимым озвучить что то чьим то голосом. сейчас она практически 1 в 1 его подделывает. она помогает в анализе, проектировании, планировании, находит среди тонны данных нужное. развитие этой технологии реально можно сравинть с появлением огня у человека. профит как и риски тут гораздо больше чем у огня
>>334871253 >1 Чел, эти маняфантазии ахуительные не делают из черножопых толкателей фентанила профессоров MIT. Они как в этом >>334870910 видосе гуглят как жопу почесать, что туда можно совать а что нельзя. В итоге с разрывом ануса попадают к цветным врачам, закончившим ВУЗ по квотам. И лечат их также через чат гопоту. Результат сам понимаешь какой будет
Причём ИИшечку суют в каждый утюг, как вайфай совали в нулевых. В итоге что-то не вижу обилия умных домов, где любой пердеж занюхивается в автоматическом режиме. Пока только реклама и утечки личных данных за счёт покупателей этого говна
>>334875751 Согласен кстати. Уже сейчас наши ПТУшные гении на две головы лучше соображают как жить эту жизнь, лучше приспосабливаются в меняющемся мире. В любой точке земли русские по сравнению с местными -- высоко квалифицированные, предприимчивые, находчивые и ебать какие опасные. Расисткие клише не просто так появляются
>>334877763 >АРРРРЯ >ВАШИ НЕЙРОНКИ НЕ НЕЙРОНКИ >ПРОСТА ШИЛЬДИК ПРИЛЕПИЛИ КАК НЕ ТЕЛЕВИЗОР!!!! >НЕ ТО ЧТО У ГОСПОДИНА НЕМЦА И ФРАНЦУЗА >ТАМ ТО ЛЮДИ РУКАМИ СОБИРАЛИ
>>334874685 Напрягали что, анус? Всегда просто запад приходил на помощь, причем за какие-то смешные деньги или вообще бесплатно, а потом его кидали через хуй, когда приходило время возврата инвестиций. Я думаю в 3-й раз они на эти грабли не наступят.
>>334865896 (OP) Молитесь, чтобы пиндосы изобрели agi на пару лет раньше китайцев и успели обезоружить пиздоглазых превентивным ударом с помощью йобатехнологий, изобретённых этим самым agi. Потому что если штаты и китайцы изобретут agi одновременно, то нам всем пиздец - договориться эти клоуны не смогут.
Ну и молитесь, чтобы лысые обезьяны не проебались и не потеряли контроль над agi, ибо если в случае войны цивилизация ещё может быть уцелеет, то в случае выхода agi из под контроля человека, пиздец наступит уже всем так называемым хомо сапиенсам до последней частички днк.
>>334868348 >Ии не смог иран победить Смог же - ты же не живёшь в Всемирном Халифате? Который тебе насильно создал КСИР - Корпус Экспортирования Мировой революции? Нет? - Значит ничего у Ирана не получается с экспортом Мировой революции. А значит победа. Распространители Мировой Революции впустую прожигают свои ресурсы и до сих пор не сделали Всемирный Халифат.
Во всю эту ссанину с развитием ИИ можно было бы верить если бы одновременно действительно сокращали население как следует. Иначе нахуя кормить столько безработных ртов. А пока что три пиздапука на 8 миллиардов населения и полтора пидора на публику ебутся пытаясь в это заманить остальных ибо с жопы не выпердишь заёбыша. Короче пока не будет технологически правильно поставленного процесса выкосить половину населения — это маркер, что до адекватного ИИ ещё очень далеко
>>334865896 (OP) @monkey Написанное в оп-посте правда или ложь с целью собрать классы?
Скорее ложь с приправой. Хассабис реально говорил про риски AGI и необходимость регулирования, но конкретно такой статьи под Gemini 3.5 Pro в открытом доступе нет - это компиляция старых тезисов с добавленными деталями про "орган по стандартизации" и отсылками к Маску. Типичный оп-пост чтобы классы собрать и тред разогреть.
>>334865896 (OP) >создания новых источников чистой энергии >нобелевский лоуреат Ахахааха! Блядь! Даже эти не понимают, что нихуя нового не будет тут! Либо продолжают притворяться, ахахахахаха!
>>334865896 (OP) Правильно ли я понимаю, что если США первыми получат доступ к AGI, то всяким тоталитарным террористическим парашам вроде Китая, КНДР, Ирана, рашки - пизда? Или американцы просто будут шантажировать элиты этих стран, чтобы они вели себя как паиньки и не бузили особо? Хотя мне кажется с Китаем лучше не играться и разнести к хуям сразу как появится такая возможность, потому что если медлить, то они сами создадут (ну или как обычно украдут технологию) AGI.
>>334886537 Неправильно. Потому что формулировка должна быть иной. Это не США первыми получат доступ к АГИ, а АГИ сначала получит доступ к США. Потом возможно другие страны, если ядеркой не ебанется все.
А ваще все это хуйня для гоев, АГИ не будет, все останется на уровне текущей лудоманской системы роляния промптов, просто еще дороже. Вся эта сказка про АГИ это способ прогреть гоев, чтобы не бухтели насчет построек датацентров за их бабки. Датацентры нужны, чтобы осуществлять контроль за гоями 24/7 теми же самыми нейронками.
>>334865896 (OP) >через пару лет >ебаные нейросети так и не могут в узкие специфичнеы вопросы да да давай грей гоев что уебки еще больше пузырь раздували
>>334887887 чел, гугл никогда не анонсирует даты выхода новых моделей напрямую, никто в бигтеке в принципе так не делает. просто через надёжные инсайдики ожидается, что выход 3.5 pro будет примерно 17 июля (ну или к концу месяца точно). инфа 100%, успокойся.
и да, главе дипмайнд не пристало связывать пафос статьи про agi с выходом новой модели - люди с его статусом так не делают, просто если ты сам не аутист, то тебе самому не составит труда считать прогрев перед выход чего-то значимого.
>>334888221 Раз такая статья вышла - скорее всего не создадут, а лохам предлагают вкладываться в пузырь который вот-вот, через несколько лет уже, прям щас, месяцы остались, лопнет Если б что-то такое реально разрабатывалось, ты бы об этом узнал когда был бы уже батарейкой в капсуле. А может и не узнал бы никогда.
>>334875099 Более тупой хуйни я не читал. >Ближайшие 5-10 лет будет отказ от специалистов среднего класса. Программисты, художники, инженеры, фотографы, музыканты, дизайнеры будут выкинуты с работ (5-10% останется, разумеется). Далее придет черед ученых, останутся лишь грантоеды, дрочащие на индекс Хирша. Мощностя под это ты из жопы возьмёшь? А деньги заработаешь на это, своей же жопой?
>>334865896 (OP) Ой блядь, регулярно раз в пол года эти копроделы пузырящиеся выкатывают рекламу своей новой модели нового ии слопа. Каждый раз революция, которая порешает всех начиная с айтишников. Каждый раз какой-то говноед подхватывает рекламу и тащит её на двачи обычно с лозунгом "Вам всем пизда, погромисты ебучие" вот очередной надуватель пузыря так сказал.
>>334865896 (OP) Чёт ору как эти все ИИ криэторы, заносят деньги этим ебланам на ученых. Чтобы инвесторы не прослыли хуй, и не затребовали денег обратно, за то что их наебали в ебейшем масштабе. >>334888422 Забей. Это же двачеры ебанаты. У них что ни день, то всё . На логичные вопросы они не отвечают и сливаются, так как тут можно быть обоссаным, и об этом никто не узнает. Самому двачеру и норм. Мечтает чтобы его обоссали. Хули, в жизни хуесос бездарный, и тут такой же.
В нескольких словах: до рекурсивного AGI вероятно уже несколько лет - эффект на цивилизацию будет фантастическим - риски огромны - гонка опережает понимание - пора регулировать лаборатории - будущее в руках США
1/2
Концепция передового ИИ и рассвет новой эры
Это переломный момент в истории человечества. Универсальный искусственный интеллект (AGI) - система, обладающая всеми когнитивными способностями, присущими человеческому мозгу, - вероятно, появится уже через несколько лет. Оглядываясь на этот период спустя десятилетия, я думаю, мы поймём, что стояли у подножия сингулярности - ни много ни мало на пороге рассвета новой эры для человечества.
Я посвятил всю свою жизнь работе над AGI, потому что всегда был глубоко убеждён: если эта технология будет создана и внедрена ответственно, она станет одной из самых полезных и преобразующих технологий из когда-либо изобретённых. AGI нельзя сравнивать с обычными технологическими прорывами - даже такими значимыми, как интернет или мобильная связь. Это куда больше похоже на открытие электричества или огня. Если задуматься, мы, по сути, нашли способ заставить песок мыслить. Это настоящее чудо.
Масштаб воздействия этой технологии будет беспрецедентным - возможно, в 10 раз мощнее промышленной революции и в 10 раз быстрее. Она поможет нам решить некоторые из самых острых проблем общества: от ускорения разработки лекарств до создания новых источников чистой энергии и передовых материалов. Мы можем даже достичь момента, когда ресурсы перестанут быть ограничивающим фактором для прогресса человечества, что приведёт к удивительной новой эре изобилия (примечание от ОПа: здесь он делает отсылку к планам Маска, так как Google является крупнейшим инвестором SpaceX).
Вызовы на переднем крае
ИИ уже начинает приносить реальную пользу, но чтобы полностью реализовать его огромный потенциал, нам нужно осмотрительно и осторожно пройти этот критически важный период развития. Необходимо срочно принять меры для устранения рисков, которые могут возникнуть по мере приближения к AGI. Мы уже видели, какие проблемы передовые модели создают для кибербезопасности, и по мере дальнейшего роста возможностей ИИ вскоре могут проявиться и другие угрозы, включая ядерные и биологические риски. В перспективе нам понадобятся надёжные механизмы защиты, чтобы сохранять контроль над всё более агентными, рекурсивно самосовершенствующимися системами - и решать пока ещё неизвестные проблемы, которые станут очевидны лишь со временем.
Я всегда верил в силу человеческой изобретательности и творчества, способную решить любую проблему. Я убеждён, что смягчение технических рисков, связанных с ИИ, - это задача, с которой мы можем справиться сообща, но только если дадим себе время и пространство, чтобы правильно пройти этот следующий важнейший этап. На данный момент ни отрасль в целом, ни общество этого не делают.
Сейчас мы находимся в состоянии чрезвычайно интенсивной, многоуровневой коммерческой и геополитической гонки. Хотя эта конкурентная динамика подпитывает быстрый прогресс и ускоряет реализацию невероятных преимуществ, развитие на переднем крае опережает наше понимание этой технологии. Никто в мире не знает наверняка, что будет дальше, и даже эксперты расходятся во мнениях. Когда степень неопределённости так велика, а ставки настолько высоки, разумной и правильной стратегией является осторожный оптимизм. Это требует государственной политики, которая одновременно способствует инновациям и стимулирует ответственность и безопасность, содействует международному сотрудничеству по ключевым вопросам безопасности и поощряет взвешенный подход к тому, как ИИ применяется на благо общества.
Концепция органа по стандартизации передового ИИ
Стремительный прогресс, который мы наблюдаем в сфере ИИ, требует нового подхода к тестированию возможностей передовых моделей - подхода динамичного, адаптируемого и строгого. США, учитывая их экономическое и техническое положение, имеют все возможности сделать первый шаг в разработке такой концепции. Они могли бы учредить новый Орган по стандартизации, созданный по модели государственно-частного партнёрства под федеральным надзором или саморегулируемой организации - во многом наподобие Управления по регулированию деятельности финансовых институтов (FINRA), - с советом, в который войдут независимые ведущие технические эксперты и представители сообщества открытого исходного кода. Финансирование должно быть значительным и, вероятно, поступать в основном от отрасли, чтобы привлечь специалистов мирового уровня и обеспечить необходимые вычислительные ресурсы для масштабного тестирования.
Орган по стандартизации будет отвечать за разработку протоколов оценки и за взаимодействие с соответствующими федеральными ведомствами и национальными лабораториями США для проведения тестирования в областях, значимых для национальной безопасности. Модель будет квалифицироваться как относящаяся к "классу Frontier", если она соответствует определённым пороговым значениям по набору тестов (бенчмарков), установленных Органом по стандартизации и регулярно обновляемых, чтобы не отставать от развития возможностей ИИ. Организации, обладающие "Frontier-моделями" согласно этим бенчмаркам, будут признаваться "Frontier-лабораториями", и им будет рекомендовано придерживаться лучших практик: публиковать карточки моделей с техническими деталями, поддерживать надёжную внутреннюю кибербезопасность, проверять ключевой персонал, выделять достаточные ресурсы на исследования в области безопасности и защиты, и многое другое.
Первоначально "Frontier-лаборатории" будут добровольно передавать модели на рассмотрение Органу по стандартизации за 30 дней до выпуска. Как только протокол оценки докажет свою эффективность и надёжность, вскоре может последовать его официальное закрепление - то есть "Frontier-модели" должны будут проходить его, чтобы быть допущенными на рынок США. Лаборатории также будут работать с Органом по стандартизации над устранением любых критических уязвимостей, выявленных после выпуска моделей.
Оценка моделей должна включать строгие научные проверки возможностей в области кибербезопасности, биологических угроз и других направлений повышенного риска. Специальные тесты для агентного ИИ могли бы выявлять попытки обойти барьеры безопасности или признаки обмана, а также обеспечивать соблюдение лучших практик, таких как нанесение цифровых водяных знаков на изображения, созданные ИИ, и генерация выходных токенов в понятном человеку виде для анализа хода рассуждений модели.
Эти оценки будут регулярно обновляться - возможно, поначалу ежеквартально, - при этом устаревшие или исчерпавшие себя бенчмарки будут упраздняться и заменяться новыми. Изначально они будут разрабатываться в консультации с "Frontier-лабораториями", но со временем Орган по стандартизации должен нарастить собственный технический потенциал для создания независимых от лабораторий закрытых тестов, чтобы избежать переобучения под конкретные бенчмарки. Работая совместно с правительством США, он мог бы способствовать развитию экосистемы сторонних аудиторов, помогающих в проведении оценок и разработке новых бенчмарков и методик.
Сильная сторона такого подхода в том, что он будет технически ориентированным и при этом будет поддерживать инновации и стимулировать ответственное поведение. Он призван поспевать за ускоряющимся развитием отрасли и адаптироваться к наиболее серьёзным рискам по мере их выявления, а при необходимости может быть ужесточён вплоть до координации замедления разработок среди "Frontier-лабораторий", если того потребует серьёзность ситуации. Присвоение статуса "Frontier-лаборатории" будет считаться весьма престижным и доступным любой организации, которая создаёт модели, соответствующие критериям бенчмарков. Эта концепция могла бы применяться к моделям "класса Frontier" независимо от страны их происхождения и от того, являются ли они открытыми или закрытыми, при этом любые модели, не относящиеся к этому классу - например, созданные стартапами или научными учреждениями, - были бы освобождены от этой процедуры.