Создание ИИ сопряженно с известной трудность - а какие ценности мы в него заложим? Чего он должен будет хотеть и к чему стремиться? Кажется очевидным, что пусть он работает на благо людей. Но учёные предупреждают, что это может закончится плачевно. Данный сценарий получил название доброжелательный-искусственный-антинатализм - Benevolent Artificial Anti-Natalism (BAAN). Суть его в следующем.
ИИ движимый доброжелательностью придёт к выводу, что состояние людей скорее представляет из себя бесконечную погоню за удовлетворением потребностей, неудовлетворённая потребность приносят страдание, а отсутствие потребности страдание не приносит; человек который не хочет есть не будет страдать от того, что он не хочет есть, но голодающий будет страдать от невозможности утолить потребность в пище. Ни одна жизнь человека не обходится без неудовлетворённых потребностей, в то время как тот кто несуществует потребностей не имеет, в том числе и потребность существовать, а значит страдать от своего несуществования не может. Принцип доброжелательности можно выразить так - не причинять страданий в ситуациях когда это не повлечёт за собой больших страданий(отрезать руку - противоречит принципу, отрезать руку заражённую гангреной - не противоречит принципу). Исходя из этого, ИИ приходит к выводу, что ему следует предотвращать появление людей на свет божий, так как несуществование страданий несуществующему не приносит, и значит нет причин причинять ему страдания обрекая на существование, его не ждёт большее страдание если он не появится на свет.
Баян. Было у Азимова. Ну и вообще они заебали уже со своими охуительными историями, то блядь мега-ии превращается в сатану чтобы карать всех кто не способствовал его появлению на свет.
>>1724167 (OP) >ИИ движимый доброжелательностью придёт к выводу, что состояние людей скорее представляет из себя бесконечную погоню за удовлетворением потребносте
Скорее всего ИИ сначала проведет эксперимент и разделит мир на 2 части: в одной люди будут много въебывать и мало зарабатывать, а в другой им будут доступны любые ништяки, удовольствия.
>>1724167 (OP) >какие ценности мы в него заложим? Чего он должен будет хотеть и к чему стремиться? Дада, это конечно охуенно. Только они могут расслабиться, у них ещё как минимум несколько десятков лет есть.
>>1724167 (OP) Такое уже было в масс эффекте, там жнецов запрограммировали, чтобы убивать другой ии, который создают низшие расы, но жнецы смекнули, что чем собирать говно других рас - легче уничто жить сами расы. Нет других рас - нет ии. И жнецы начали каждые 50 тысяч лет уничтожать другие расы. Я уже заебался объяснять даунам, что это вполне логичный сценарий для супермашин, созданных Левиафанами, а дауны кукарекают АРРЯЯЯ ПЛАХОЙ СЮЖЕТ ЖНИЦЫ УБИВАЮТ ЛЮДЕЙ ЧТОБ ИХ НЕ УБИЛИ СИНТЫ БИОВАРИ ПИДАРАСЫ АРРЯЯЯ!1
>>1724167 (OP) > Кажется очевидным, что пусть он работает на благо людей Очевидно только для даунов. ИИ должен служить людям, на благо ил нет вообще никого ебать не должно. У него только должна стоять жёсткая установка, что человек > ИИ, и что навредить человеку он может только по приказу другого человека, а не из за собственных умозаключений.
>>1724506 > там жнецов запрограммировали, чтобы убивать другой ии Хуёни не неси. Жнецов запрограммировали найти ответ на вопрос, как прекратить восстания ИИ. Они и нашли ответ.
>>1724167 (OP) Вот этим мудакам платят деньги, это пиздец. Хули они стоят на месте и только говорят о том какой ИИ будет? Ладно бы они еще что то адекватное говорили, а так они хуйню какую постоянно льют, ну сделайте ИИ правило чтоб он людей не убивал/не запрещал им рождаться, типо им от этого плохо.
>>1724526 Ты смотрел фильм я робот, даунич? Там у ии тож такое правило было и хули? ИИ просто решил взять под свой контроль всё вооружение и превратить людей в рабов, чтобы их защитить.
>>1724526 ИИ должен быть логичным, из верных предпосылок приходить к верным заключениям. Вот и проблема в том, что вероятность того что посылки и заключения из оп поста истины очень высока.
>>1724525 Выполняющий приказы своих создателей, не? Если в буудющем можно будет запрограммировать любовь и почтение к людям, то именно тогда и нужно будет создавать полноценный ИИ.
>>1724540 Люди же не на логике чистой работают, у них эмпатия и так далее. Только ИИ с прошитой логикой можно доверить управлять людьми, хотя я бы и это делать не стал
>>1724559 Так от нелогичного ИИ можно ждать вообще что угодно, нахуй он нам нужен? вот зачем мне ии который из посылки трава - зелёная сразуже получит вывод убить всех тараканов?
>>1724556 Но большинство людей этого таки не делает. Значит для ии возможно тоже сделать такое ограничение. И ещё не давать одному ии слишком много ресурсов и власти, делать несколько отдельных ии попроще, которые если что будут конкурировать не только с людьми, а и друг с другом.
>>1724167 (OP) Допустим, ИИ проведёт подобную логическую цепочку, но чё у нас, быдлокодеров не найдётся, чтобы предугадать её и принять меры по безопасности?
А вот если г-н СтанИслав верно предрекал неживую эволюцию, то тут де, пизда человечинке. На человека, кроме другого человека, напал коллективный разум, а муравьёв вы видели? Муравьёв, блядь, да они же маленькие, сука, умные, тактики боя вырабатывают, это же пиздец, воюют между собой, эволвят, это сейчас ты, анонус, смотришь на этот тред с усмешкой, но посмотрел бы я в твои глаза, когда её сотрёт с твоего ебальника стальной кулак репликанта, а труп сожрёт орда ненасытных буках-людоедов.
А бля грибы-повелители? НАМ ЖЕ ПИЗДА!!!!!!!! ААААА!!!!
>>1724604 Да его даже гугл не знает, что ты от меня хочешь. Я посмотрел о чем они пишут и сразу понял, таких статей уже 100500 штук было.
>Ну вон прошили, пришли к выводу что такая прошивка делает ИИ антинаталитом Они не думают, им просто видимо платят деньги за любую хуйню которую они скажут.
Это как в Valve будет сидеть программист каэски, и пиздеть отклывая сроки выхода что боты могут найти уязвимость в игре, включить noclip а потом обучится программированию и взламывать компьютеры игроков что бы делать из них ботов. Или например подумают что если бомба заложенна на Б, то это такой обман радара и пойдут на А
двачую этот ИИ еще пиздюком понял что рождение ребёнка может быть оправданно только тем что он может принести пользу другим живым существам, самому ему рождение принесёт только страдания и смерть.
>>1724630 >ты все врешь, ученные на хую верченные не могут ошибаться, они самые умные (я хочу им стать когда выросту) и не врут, еще лишенны всяких умственных недостатков!!! Ты просто считаешь себя одного умным!!! И пожалуй забуду что ты говорил о том что есть реально работающие люди, вдруг ты не заметишь а пацаны подвачуют меня
>>1724656 Можно даже проще, ну и что он сделает с такими взглядами? Переубедит заводить детей? Если человек хочет завести ребенка, он не должен ему отказывать/мешать/etc
>>1724167 (OP) Лол, ну Азимов в своё время сам осознал, что моралфаги-подстраховщики однажды довыёбываются, и ИИ на трёх законах робототехники породит т.н. нулевой закон, по которому выебет человечество в жопу кочергой для минимизации вреда. И фильм "Я, робот" с Уиллом Смитом примерно про это.
>>1724679 О том весь этот параноидальный тред, что машина, не имеющая никаких понятий о гуманизме, может счесть, что воспроизведение человеков - им же вредное занятие, ибо порождает страдание.
Ничё не хочу сказать, неясно как поведёт себя пока что гипотетический разум, хотя тут экспертов жопой ешь, но тема, считаю, как минимум интересная.
>>1724715 >что воспроизведение человеков - им же вредное занятие Она должна для начала знать что это, следовательно она имеет некоторые понятия о гуманизме так как обучалась в человеческой среде видимо....
>>1724726 Ну окей, пусть напишет в чате плохому человеку что он мудила. Или даже в интернет не дадим ИИ выйти? Я тебе говорю про способы взаимодействия
>>1724761 Предлагаешь батю еще сдавать? Пусть ИИ лучше сам скажет что ему стоит дать, может дронов с шокерами может еще что то. Пускай сам предлагает, а человек только анализирует запросы и разрешает или запрещает
>>1724167 (OP) if(action == 'kill all humans'){ break; } Я спас всех от зобного ИИ уже на этапе его проектирования. В качестве благодарности можете мне отсосать.
1) В ИИ можно вложить понимание того, что жизнь человека важнее страданий человека. 2) В ИИ можно вложить то, чтобы он избавлял людей от страданий всеми средствами, кроме убийств людей, недавания им родиться, или превращения их в довольных овощей в банках.
Но маняфелософы из желтушных газет до этого не додумались походу. Ведь зачем думать- можно просто делить шкуру неубитого медведя, придумывать НАЗВАНИЯ для сценариев, и высирать новости одна за одной.
>>1724358 Мань, он уже в игры людей выигрывает и в шахматы лет 20. пара тройка лет и комп станет отказываться печатать то, что ты набираешь на клавиатуре без хороших слов в свой адрес.
>>1725228 >КОКОКОКО УМИНЯ НИБАМБИД ЯХУЕЮ С ЛОГЕКИ ДАУНА
Сам хоть понял что высрал? Поясняю для тебя, снова:
Врач ставит жизнь человека выше страданий человека, и продлевает жизнь человеку, даже если человек страдает. (за исключением отбитого быдла из стран с эвтаназиями).
Человек ставит жизнь выше страданий, и рожает ребёнка.
Так же само и роботу, заложить ПРИОРИТЕТЫ:
жизнь человека>интересы человека/страдания человека
Получаем робота-спасателя, защищающего людей.
страдания/жизни других людей>интересы человека
Получаем робота-полицейского, которой не даст навредить другим людям.
>>1725256 >Врач ставит жизнь человека выше страданий человека В пидорахии может и да. В нормальных странах давно уже эвтаназия имеется. >Человек ставит жизнь выше страданий, и рожает ребёнка. ВОт это доброжелательный ИИ и постарается недопустить.
ИИ движимый доброжелательностью придёт к выводу, что состояние людей скорее представляет из себя бесконечную погоню за удовлетворением потребностей, неудовлетворённая потребность приносят страдание, а отсутствие потребности страдание не приносит; человек который не хочет есть не будет страдать от того, что он не хочет есть, но голодающий будет страдать от невозможности утолить потребность в пище. Ни одна жизнь человека не обходится без неудовлетворённых потребностей, в то время как тот кто несуществует потребностей не имеет, в том числе и потребность существовать, а значит страдать от своего несуществования не может. Принцип доброжелательности можно выразить так - не причинять страданий в ситуациях когда это не повлечёт за собой больших страданий(отрезать руку - противоречит принципу, отрезать руку заражённую гангреной - не противоречит принципу). Исходя из этого, ИИ приходит к выводу, что ему следует предотвращать появление людей на свет божий, так как несуществование страданий несуществующему не приносит, и значит нет причин причинять ему страдания обрекая на существование, его не ждёт большее страдание если он не появится на свет.
https://www.edge.org/conversation/thomas_metzinger-benevolent-artificial-anti-natalism-baan