>>334187180 калькулятор буквально не учитывает контекст, у него нет семантического представления о числах и возможности выйти за рамки заложенной в него формулы. т.е. он всегда выполняет детерминированный алгоритм: одна и та же операция даёт один и тот же результат по явно прописанным правилам. базовые модели работают в многомерных векторных пространствах смыслов (эмбеддингах). семантика в таких пространствах не задаётся словарём по типу "токен -> значение", а возникает как геометрия: близкие по смыслу понятия оказываются рядом, а отношения между понятиями кодируются направлениями векторов. никто не прописывает эти правила явно - они появляются как побочный продукт обучения предсказывать следующий токен на огромном корпусе данных. из этого следует и комбинаторная генерализация: модель может осмысленно соединять понятия в сочетаниях, которых физически не было в обучающей выборке, потому что смысл хранится распределённо по тысячам измерений и допускает интерполяцию между точками пространства, а не поиск по таблице готовых пар "вопрос-ответ". то есть это примерно, как человеческий мозг, только с потенциалом экспоненциальной эволюции
>>334186836 (OP) Блять, эти ебучие чатботы даже обоссаную математику не могут подтянуть под теорию. О чём говорить, полный ноль, во всём, даже как поисковик, сука искал тут определенный старый биос, дипсик, чатгпт, квен, мнян, хрюк-пук, ниможем найти. Сел сам искать, через пять минут нашёл, хррр тьфу им в ебало. Бессмысленная трата ресурсов и энергии на полную хуиту.
>>334187826 Долбоёб, нейросетки не могут даже выйти за рамки обучения. Т.е. до уровня Эйнштейна который создал ОТО с нуля, им как муравью до человека, примерно такая разница. Где они могут пригодиться, в анализе больших массивов данных, неплохо было бы загрузить все научные работы которые выходили за последние сто лет и систематизировать их. Но мировой жид не позволит этого сделать, знания не должны быть общедоступными, они должны быть элитарными.
>>334188926 Так оно и работает круто только когда с нейронкой беседует образованный специалист, который разбирается в какой-то сложной проблеме. По сути получается связка где нейронка это корабль лавирующий по семантическим полям, а человек является кем-то вроде штурмана, навигатора и интерпретирующего одновременно. Если взять оп-пост, то похуй на вашего агента. Макс Планк с продвинутой нейронкой это многотысячный буст Макса Планка. Дальше вопрос лишь в том какие проблемы его заботят и какие из них могут решиться вне или до эксперимента. Если условия сходятся, то связка человек+нейронка отрабатывают в нахождение и осмысление новых семантических связок.
Но в более прозаичном случае перед нейронкой оказывается кретин, либо айтишник которому нужно кретинский код для приложух генерировать. Такая связка никакой ОТО не создат, потому что в принципе не работает над такими проблемами, человеку тут до пизды высокие материи, он закрывает сегодняшний примитив для увеселения или закрытых задачек перед начальством.
>>334188926 то, что ты называешь "выходом за рамки обучения" у господина эйнштейна, тоже не возникло из ничего. ото опирается на риманову геометрию (за полвека до него), на тензорное исчисление, которому его буквально учил гроссман, на принцип эквивалентности и идеи маха, на годы тупиков и параллельную гонку с гильбертом за финальные уравнения. научное творчество по своей сути это тоже комбинаторная пересборка уже существующих понятий под новые ограничения, просто распределённая по годам и учёным, а не по слоям сети. по структуре это ближе к тому, что я описывал про эмбеддинги, чем к "созданию из ничего".
ну и кстати, тезис "нейросетки не могут выйти за рамки обучения" это даже не философская позиция, а просто проверяемое утверждение, которое просто неверно фактически, учитывая хотя бы тот же alphafold, предсказывающий структуры белков, которых нет в обучающей выборке. alphafold я не просто так привожу в пример, это нобелевка так-то.
>неплохо было бы загрузить все научные работы которые выходили за последние сто лет и систематизировать их лол, а как ты думаешь это будет работать без семантического представления о смысле текста? поиск по ключевым словам тут бесполезен - нужно находить неочевидные связи между статьями из разных областей, которые ни один человек физически не прочитает все разом. это именно то, для чего нужны эмбеддинги.
>>334187826 Но сегодняшние нейросети не учитывают семантику, а семантическую синтаксическую хуйню, какие-то токены более семантические, какие-то более синтаксические. Но семантика и синтаксис для нейросетей не разделимы. И пространство получается не смысловое, а языковое. Поэтому у тебя просто идут языковые игры максимум, а не проработка смыслов и языка под него. А если учесть, что веса становятся усреднёнными, то чего-то нового, экстраординарного не получиться. Даже если мы прихуячим эмбедингы из текстов, где идеи впервые появились, чтоб их дорабатывать.
>>334189252 Нейронка не генерирует новых идей и не может подтвердить или проверить их физически или математически. Т.е. фактическая ценность таких нейронок, для специалиста который движется на острие науки, создавая новое - нулевая. Нейронки могли бы помочь с физическими моделями, в материаловеденье, или каких то процессах, но пока таких моделей не существует, сама нейронка ничего не может.
>>334190751 ЛеКун с своей моделью, единственный кто дело говорит, все остальные - тупо просто жрут бабки, переводят железо и энергию на гавно. Получая результат, который никому не нужен и который монетизировать то нельзя.
>>334186917 А что, Эйнштейн её с нуля создаст? Даже нейросетка говорила, что если бы Эйнштейн её не оформил - её бы создали в срок от нескольких МЕСЯЦЕВ до нескольких лет максимум, причем занималось этим с десяток разных математиков калибра Лоренца.
Что наводит на очень интересные размышления - а не очередная ли это хуцпа и любимый прикол работающих в патентных бюро второй половины 19 века - пользуясь админресурсом оформить годную идею задним числом на правильного человека вместо реального автора.
к 2030 году будут уже миллиарды таких агентов
вот и думайте