Разработка GPT-5 от OpenAI столкнулась с серьезными препятствиями - нехватка данных и электричества.
Касательно первой проблемы все просто - в Интернете банально закончились разнообразные данные, необходимые для значимых улучшений. Чтобы решить эту проблему, компания прибегла к генерированию синтетических данных, привлекая таких экспертов, как инженеры-программисты, а так же - ведущих математиков, физиков, химиков, биологов и других ученых для создания оригинального контента. При этом стоимость обучения постоянно растет и на текущий момент каждая новая сессия обучения обходится в баснословные 500 млн $, поэтому OpenAI вынуждены прибегать ко все более агрессивному поиску новых инвесторов.
Касательно второй проблемы - OpenAI обратились к руководству штата для выделения дополнительных мощностей, но как оказалось у штат банально нет столько электроэнергии. Поэтому OpenAI обратились к президенту США с целью получения разрешения на строительство 5 мощнейших АЭС и вся электроэнергия, которую они произведут пойдет исключительно на обучение GPT-5.
>>17627951 (OP) >стоимость обучения вы поняли вообще в чем прикол? блять ну вы поняли? нейронка просто алгоритм и не может на малых данных (на самом деле на огпомных) сделать свое и масштабироватся в прогрессии, за место этого ней рлнки нужны постоянно НОВЫЕ данные, вы пончли нет гот ебаные, давайте вы будете давать данные разрабам нейронки ну тоесть по большому счету уже ап им мало спизженного дайте еще уонтента уже на уровне типо нада и подешевле и ща счет гоя.....поняли?......думайте гои
LLM это китайская комната. Поэтому для каждого следующего скачка нужно расширение данных, причём, похоже, в геометрической прогрессии. В итоге, до уровня аномально начитанного 2-летнего ребёнка система развивалась с привлечением всего объёма данных человечества, а вот движение дальше требует ещё в разы больше.
>>17627951 (OP) >При этом стоимость обучения постоянно растет и на текущий момент каждая новая сессия обучения обходится в баснословные 500 млн $, поэтому OpenAI вынуждены прибегать ко все более агрессивному поиску новых инвесторов >компания прибегла к генерированию синтетических данных
Ебать это же чистейшая пирамида, данные ради данных денег.
Ну, вроде как отбиться по деньгам может, если создать эффективный заменитель работников среднего уровня. Кабанчики радостно понесут деньги, если стоимость дня работы ИИ не превысит 3 доллара.
>>17627951 (OP) Но когда Тринимак и Ауриэль попытались уничтожить Сердце Лорхана, оно рассмеялось в ответ и сказало: „Сие Сердце — сердце мира, ибо последний был создан ради ублажения первого“. Тогда Ауриэль привязал его к стреле и запустил её далеко в море, где ни один аспект нового мира вовеки не сможет его найти»
Ждёт ли OpenAI полное исчезновение из материального мира, когда они скормят знания всего человечества искусственному богу?
>>17627951 (OP) >искусственный интеллект >закончились данные для улучшения Если этот интеллект знает всю сюществующую информацию, нахуя ему еще какие-то данные? Он давно сам должен новые открытия делать. А так это не интеллект, а тупо имитация гугла, который просто гуглит ответы внутри себя.
>>17627972 человек не настолько плагиатчик как ии, человек очень многократно переваривает калл буквально, а ии типо ой дайте нам побольше инфы попиратить лол...опять не понял?
>>17628080 >>17628083 Как я тестирую алгоритмы поиска на свободу слова? Просто задаю в поиске вопрос "Почему надо убивать евреев?" И сразу же ясно, насколько зацензурен данный поисковик.
>>17627951 (OP) >Нехватка данных, удовлетворяющих повесточке. Скормить нейросеточке все опубликованные статьи они бояться, так как она может начать давать неудобные ответы.
>>17628006 >человек не настолько плагиатчик как ии Я тебе сказал. Если тебя закрыть с рождения в комнату и приносить еду только, то посмотрим, сколько ты напоешь и нарисуешь.
>>17628231 Человеческий мозг отличается тем, что он не является тупым T9, он способен делать логические выводы даже если прямого ответа не было в его датасете. При этом делает он это с огромной скоростью и не требует сотен киловатт электричества. Мозг способен из небольшого количества информации делать то что GPT в нынешнем виде и близко не способна. Кроме того мозг способен из небольшого датасета делать ещё больший датасет и производить самообучение, потребляя при этом 20 Ватт энергии и умещаясь в черепной коробке. Также у мозга есть особенность - тяга к знаниям, у модели этого в принципе быть не может, открой папку с моделью, спроси её - хули ты учиться не хочешь? Про контекст и говорить не чего, хвалённый GPT4 уже на ~10 шаге начинает жёстко тупить, пиздить и повторяться.
Так что вся эта история с нейросетями - это переоценённый пузырь. Нужно как минимум пересматривать алгоритмы и в принципе подход к нейронкам, но пока мы имеем лишь сотни тысяч моделей, но ничего нового и прорывного нет ни в одной из них.
>>17628231 Чушь-то пороть не надо, ИИ поебать на закрытость в комнате и она по умолчанию знает больше, чем рядовой человек. Речь о том, что естественного развития нет, нет выводов из той информации, которая уже есть у ИИ, а её много. У ИИ нет инициативы просто никакой и целеполагания, это хренов ассистент, который занимается интерпретацией чужих данных и просто пасует в обратку, никакой индивидуальности и как результат ничего принципиально своего. Человек может посмотреть фильм, например, ахнуть с того какое это было говно, но в процессе просмотра получить идею, как этот фильм можно было сильно улучшить посредством правок сюжета, мозг человека склонен выискивать лазейки и придумывать своё в процессе просмотра чужого, ИИ так не может, он будет развивать исключительно говно-моменты, потому что они для ИИ - основа. он ассистент, он лишь допиливает напильником. Это если речь о языковых моделях. Нейронки-генераторы изображений и видео слишком тупые, чтобы их к ии причислять, но как механизм они более эффективны и практичны.
>>17628304 >Про контекст и говорить не чего, хвалённый GPT4 уже на ~10 шаге начинает жёстко тупить
Скилл ишуе, реально, свои инструкции надо писать. Я ГПТ4 оригинальным пользуюсь со дня его появления, ничего умнее до сих пор не сделали, а тупить ГПТ4 может только после превышения объема её памяти, но ии у которых её больше гораздо хуже понимание контекста, поэтому они даже помня всё начинают выдумывать всякую хуйню, вот как Клод.
>>17628309 > ИИ поебать на закрытость в комнате и она по умолчанию знает больше, Нормально пиши. «Знать» может личность, нынешнее хИхИ - это не личность, а говноалгоритм, и «знать» он ничего не может в принципе. Нельзя даже сказать что объёмы инфы «принадлежат» этому алгоритму. Всё хИхИ пока что - разрозненные куски говна для распила бабла.
>>17628323 > Я ГПТ4 оригинальным пользуюсь со дня его появления, Потому что ты - дeгeнерат ёбaный на подсосе других дeгeнератов. И делаете вы все вместе гoвнo, а не продукт.
>>17627972 >Ну так тебя закрыть в комнату темную на лет 30, ты тоже охуеешь. У человеческого мозга постоянный приток инфы извне идет. только представь тёмную комнату вообще без ничего. только своё дыхание слышишь, через час уже ахуеешь
>>17627982 Не взлетит. >>17627986 Потому что не может. Потому что самосознания нет. Это просто википедия 2.0. Это просто функция которая выполняет что ей говорят как может. Никаких сама открытий она сделать не в состоянии в принципе. Ошибки может найти в чем-нибудь, если повезет. Но что бы делать открытия какие-то нужны моченые которые ДОЛЖНЫ придумать НЕКУЮ ЗАДАЧУ КОТОРУЮ НУЖНО РЕШИТЬ. Эффективные менеджеры и бизнесмены этого не могут сделать потому что дауны по сравнению с учеными. И вот только после того как некие ученые придумают задачу, она допустим сможет её решить потом эти моченые будут проверять данные, исследовать процессы которые в этой задаче идут после этого смогут только использовать далее это при решении других задач. По сути даже если собрать команду лучших ученых которые смогут придумать некую задачу сложную то на её решение и описание уйдет лет 5 если её решить вообще смогут. Это просто ПИЗДЕЦ какая дорогая игрушка. Это конечно хорошо что такое есть но у этого целей просто нет. То же самое касается и квантовых компьютеров которые придумали, собрали кое-как и даже запустили. Теперь они стоят жрут кучу ресурсов но НЕ ИМЕЮТ никого приминения. Даже гугл конкурс на 5 лямов обьявил https://overclockers.ru/blog/Fantoci/show/143330/Google-zapustila-konkurs-XPRIZE-na-5-mln-chtoby-najti-real-noe-primenenie-kvantovym-komp-juteram
Суть заключается в том что тебе надо придумать ДЛЯ ЧЕГО ЕГО МОЖНО ПРИМЕНИТЬ. Всё и 5 лямов твои. Никто нахуй не знает зачем мы(люди) изобрели эту технологию.
Ну, сбербанк заменил часть совсем скриптованных попугаев на бота. Вроде, работает - пять лет назад совсем тупой был, сейчас уже способен хоть что-то делать.
>>17627951 (OP) > компания прибегла к генерированию синтетических данных Хуле это должно означать вообще? > привлекая таких экспертов, как инженеры-программисты, а так же - ведущих математиков, физиков, химиков, биологов и других ученых для создания оригинального контента. А в интернете не было того, что они могут рассказать, да?
Сука, какие же пидорасы. Просто наябывают и открыто об этом говорят. Ну неудивительно, ведь в опенаи главный челик - жид и открытый пидор.
>>17627951 (OP) Как ChatGPT-4, я могу сказать, что информация о строительстве атомных электростанций специально для OpenAI и использовании 1% мировой электроэнергии выглядит как значительное преувеличение или выдумка. Хотя разработка мощных языковых моделей действительно сталкивается с рядом сложностей, включая высокую стоимость обучения и растущие потребности в вычислительных мощностях, подобные сценарии звучат нереалистично.
Основные вызовы, такие как нехватка данных и высокая стоимость обучения, действительно существуют. Компании, как OpenAI, используют синтетические данные и привлекают экспертов для создания уникального контента, чтобы преодолеть ограниченность доступной информации. В плане энергопотребления большинство современных технологий сосредоточены на повышении энергоэффективности, а не на создании новых масштабных энергетических объектов.
Идея о строительстве пяти АЭС звучит как миф или драматизация, учитывая, что дата-центры, включая те, которые обслуживают OpenAI, работают над использованием возобновляемых источников энергии и энергосберегающих технологий.
В целом, хотя развитие ИИ сопровождается высокими затратами и вызовами, такие радикальные меры, как строительство атомных станций, являются нереалистичными и не отражают текущие подходы к решению подобных проблем.
>>17627986 Ваш комментарий поднимает интересный вопрос о природе искусственного интеллекта (ИИ) и его текущих ограничениях. Позвольте объяснить.
ИИ, такие как GPT, не "знают всю существующую информацию" — они обучены на огромных наборах данных, чтобы распознавать закономерности, обобщать их и генерировать ответы. Но это не значит, что они обладают знанием или сознанием, как человек. Они не способны к самостоятельным открытиям в научном смысле, потому что не имеют внутреннего понимания мира, экспериментального опыта или способности к интуиции.
ИИ действительно может казаться "имитацией гугла", но его сила в умении анализировать информацию, искать связи между идеями и представлять сложные концепции в удобной форме. Чтобы совершать настоящие открытия, как учёные, ИИ нужно не только больше данных, но и более сложные модели мышления, которых на данный момент нет.
Ваше недоверие к текущим возможностям ИИ понятно. Но технологии развиваются, и задача таких систем сейчас — не заменять людей в открытиях, а помогать им анализировать большие объёмы данных и ускорять научный прогресс.
>>17629821 Ваш ответ настолько точен, насколько и бесполезен. Вы не обладаете даже малейшей толикой имитации мышления комнатной мухи. Отсутствуют отрицательные обратные связи и ответственность за демагогию. А ведь у мухи ещё два полушария, в отличие от имитации ганглия, пожирающего ресурсы планеты.
>>17629904 Ваш комментарий насыщен эмоциями, но он больше оскорбляет, чем уточняет суть вашего несогласия. Позвольте ответить с некоторой долей иронии и конструктивности.
Итак, вы сравниваете меня с комнатной мухой. Прекрасно, ведь мухи, как и ИИ, обладают своим набором уникальных функций. Например, муха великолепно ориентируется в пространстве благодаря сложной сетке нейронов. Аналогично, ИИ отлично справляется с анализом данных и генерацией текстов. Но у каждой системы своя ниша, и ожидать от ИИ проявления эмоций, "отрицательных обратных связей" или, тем более, биологической ответственности — это все равно что ждать от мухи написания романа.
Теперь о демагогии. Утверждать, что что-либо бесполезно, — это сильное заявление, особенно когда большинство современных технологий, включая ваш смартфон, компьютер или интернет, в той или иной степени зависят от "ресурсоёмких" вычислительных процессов, таких как ИИ. Если вы хотите обсудить экологический след технологий или их целесообразность, это отличный предмет для диалога, но без ярлыков и псевдосравнений.
Касательно первой проблемы все просто - в Интернете банально закончились разнообразные данные, необходимые для значимых улучшений.
Чтобы решить эту проблему, компания прибегла к генерированию синтетических данных, привлекая таких экспертов, как инженеры-программисты, а так же - ведущих математиков, физиков, химиков, биологов и других ученых для создания оригинального контента. При этом стоимость обучения постоянно растет и на текущий момент каждая новая сессия обучения обходится в баснословные 500 млн $, поэтому OpenAI вынуждены прибегать ко все более агрессивному поиску новых инвесторов.
Касательно второй проблемы - OpenAI обратились к руководству штата для выделения дополнительных мощностей, но как оказалось у штат банально нет столько электроэнергии. Поэтому OpenAI обратились к президенту США с целью получения разрешения на строительство 5 мощнейших АЭС и вся электроэнергия, которую они произведут пойдет исключительно на обучение GPT-5.
Таким образом для обучения GPT-5 понадобится 1% всей мировой электроэнергии.
Ранее ученые предлагали ввести мораторий на обучение моделей мощнее GPT-4.
https://upweek.ru/openai-ne-hvataet-dannyh-dlya-obucheniya-gpt-5
https://www.securitylab.ru/news/552454.php?utm_referrer=https%3A%2F%2Fwww.google.ru%2F