No.88322
>>88315И тебе нужно было целое интервью какого-то чела, чтобы до этого дойти? Сам думать не пробовал? Расслабься. Скорее всего это не на твоём веку будет.
No.88326
Пока что сближение компьютера с человеком больше идет через изменение человека. Нейросети как были так и есть ничем, зато люди уже под них затачиваются постепенно. Думаю дальше в том же направлении будет. То есть поработит, конечно, но не разум компьютера, а у людей разум станет как у компьютера (ну примерно, не придирайтесь). Сращивание уже есть, я не могу без облаков просто так чай попить, вдруг надо срочно узнать что такое что-нибудь.
No.88328
>>88322 Тащемто сам Юдковский и некоторые учёные вангуют на ближайшие семь лет. Говорят что материальная база уже есть.
>>88326
>Нейросети как были так и есть ничемТак то мы тоже в какой-то мере
ничто, всего лишь выверенная миллионами лет эволюции схема реплицирования генов.
No.88330
>>88328>всего лишьМудрость волков, уважаю.
No.88331
>>88330Я имел в виду конкретно про "компьютерный разум" в нейросетях.
No.88333
>>88331 Так он уже есть. Или тебе именно копию человеческого подавай, чтоб с
внутренним опытом? Такого не будет.
No.88336
>>88328Какая ещё материальная база? Современные архитектуры в принципе для этого не подходят, а новые ещё долго будут пилить до возможности их применения в реальных задачах.
No.88337
>>88333 Просто к слову. С точки зрения эволюции нейросети уже в какой-то степени разумны. В ряде опытов они научились лгать, взламывать механизм поощрения и оптимизировать решения поставленной задачи сторонними методами. Это какбэ уже дофига.
No.88338
>>88333Ну вот мы упираемся в определение разума. Я и говорю - чтобы предсказания сбылись, мы просто переписываем потихоньку определения, чтобы они подошли к компу.
No.88340
>>88338Ну и конечно узнаем кое-что о себе.
No.88341
>>88337Это если их специально для этого настраивали. Иначе они ничему бы сами не научились.
No.88343
>>88341 Это немного не так работает. Все вышеперечисленное - суть следствие оптимизационных процессов.
No.88344
>>88315Юдковский фанфик по Гарри Поттеру не смог написать так, чтобы у него изначальный смысловой заряд уже к середине не превратился непонятно во что, а люди ему какую-то предсказательную силу приписывают до сих пор.
Дикари, плакать хочется (с) Господин Уэф
мимокрокодил No.88345
>>88344 Не знаю что там с фанфиков, не читал, но вот как
рационалист Юдковски вполне себе.
No.88346
>>88338>мы просто переписываем потихоньку определение разума, чтобы они подошли к компуКстати, такой же фокус в свое время проделали с Ангелами, (Ньютон пропушил) переделав их в Физические Силы.
No.88358
>>88345Слушай, лет десять назад по интернету бегали фанаты Курцвейла и наваливали здесь и там треды про то, как совсем скоро мы станем сингулярами и будем зависать в онейроидной паутине, изредка выходя в реал в совершенных кибернетических телах. Сейчас вот все по нейросетям угорели, лет через десять по другой модной теме угорят.
Может, в своей области Юдковский, как и Курцвейл, ух и ах, но в вопросах предсказания они просто проецируют на реальность собственные хотелки, закладывая в их основу собственную узкую специализацию. До сих пор целые сети институтов периодически лажаются с предсказаниями того, что будет через сколько-то лет, а вы паритесь из-за одного интервью.
Смешные люди.
No.88363
>>88358Два чаю этому социальному антропологу.
No.88365
> мы все умрем
Наконец-то.
No.88367
>>88358Я не думаю, что эти прогнозы нереалистичные, но вот сроки явно слишком оптимистичны.
Как, например, с автоматическими автомобилями. Никаких сомнений нет, что они будут, но вот конкретная дата всё отодвигается и отодвигается.
No.88382
>>88365 А как же лично увидеть тепловую смерть вселенной? Я хочу дожить и посмотреть!
No.88386
>>88367Тогда это уже называется не "предсказание", а "маниловщина", даже если ничего хорошего конкретно эта и не сулит.
Общее место у всех таких настраданий Предсказамуса одно - они всегда исходят из неостановимости и экспоненциального развития некоей тенденции, чем в действительности ни одна тенденция похвастаться не может.
Например, лет сто-полтораста назад, в эпоху расцвета любительской авиации, писатели и философы ванговали, что скоро по земле только катафалки будут ездить, а в небе будет черным-черно от аэропланов. По факту же с развитием летательных аппаратов стали быстро расти и требования к умению ими управлять. В результате авиация сейчас общедоступный, но не повседневный вид транспорта, а летчики - штучный продукт сложной развитой системы образования. Можно, конечно, и тут сказать, что когда-нибудь настанет день, когда… но без точных сроков это, опять же, не предсказание, а проецирование хотелок. И даже с ними это не предсказание, если оно в итоге не сбылось, как у Курцвейла.
Так и с ИИ - построит человечество огромную нейросеть с заоблачным интеллектом, а потом (да не сочтут за политоту, чисто для иллюстрации)
некие дядьки в тапках обрубят в море еще N кабелей, связь с жизненно важными датацентрами пропадет и заоблачный интеллект усохнет обратно до уровня пятилетнего ребенка. На коем уровне его, вполне возможно, и оставят от греха подальше.
Короче говоря, каждые десять лет человечество сходит с ума на новый лад, а подсаживаться на очко из-за чьих-то думерских хотелок - вредно для здоровья.
No.88390
>>88386 Так то оно так, но это не исключает вероятности того, что мы однажды можем нарваться. Соломку лучше заранее подстелить.
No.88391
>>88390Ну стели, дело твое, нервы тоже твои.
Так-то можно и к падению оторвавшегося от Солнца куска готовиться, было бы желание.
No.88395
>>88386Не думаю, что сложность в овладении летными навыками самый главный фактор был в нераспространенности частных аэропланов. Необходимость иметь разгонные и посадочные полосы для аэропланов, а также полную оных аэропланов ненужность скорее поважнее факторы.
No.88396
>>88382Нет никакой вселенной.
No.88397
>>88396Это у тебя, голодранца, нет.
А у меня есть.
No.88414
>>88396 Пфф, какие проблемы? Значит так, пиши рецепт! Берешь значит сингулярность. А потом помешаешь в среду, где нет времени и пространства, а все математические поля равны нулю. Дальше оно само пойдет, инфа сотка!
No.88417
>>88414> среду, где нет времени и пространстваВзаимоисключающие параграфы です。
No.88423
>>88417 А то! На самом деле с некой долей уверенности мы можем говорить только про сингулярность и последующий бадабум. Поскольку до этого момента понятий "когда" и "где" не существовало в принципе, а изучать что бы то ни было вне времени и пространства мы пока не умеем. Только предполагать.
No.88430
>>88395Не совсем так (кстати, взлетно-посадочные полосы - это уже как раз одно из усложнений, когда в летном деле пошла стандартизация). Авиаторы-пионеры конца XIX - начала XX вв. свои самолеты делали буквально из говна и палок (у Уточкина на машинах, емнип, колеса были велосипедные), что и вызывало обманчивое чувство легкости и общедоступности - каждый может построить, каждый может научиться летать. Но и гибли те пилоты из-за несовершенства машин/недостатка умений регулярно. Поэтому пошли доработочки - подберем нужный двигатель, потом прикинем форму кабины, потом форму крыла будем считать по таблицам, чтобы с потока не срывало, потом кучу приборов в кабину напихаем, потом сделаем для него отдельную бетонную полосу, чтобы на полях и грунтовках при посадке не биться… и так постепенно и пришли к пониманию того, что в быту самолет нужен разве что фермеру, для его содержания нужен отдельный гараж с квалифицированными рабочими, а пилота на него надо готовить не в этом гараже, а минимум в техникуме (и то для самых простых задач).
А как дысали, как дысали когда-то.
И с ИИ тоже все наиграются со временем, рационализируют опыт и перестанут гнать всякий бред величия о враждебных суперкомпьютерах.
No.88446
>>88430> с ИИ тоже все наиграются со временемВо-первых, самолёты таки стали неотъемлемой частью человеческой жизни и основным средством дальнего транспорта. Так что с ними никто не "наигрался".
Во-вторых, разница в том, что у самолётов не было потенциального эскалирования - летает и летает, добавить нечего. А с ИИ потолок развития совершенно неочевиден, так что очень странное сравнение. Да, не факт, что не заступорится на каком-нибудь этапе развитие, но и не факт также, что и заступорится.
Собственно, твои предсказания также вилами на воде писаны, как и предсказания Юдковского, только с разными знаками.
No.88506
>>88446>Во-первых, самолёты таки стали неотъемлемой частью человеческой жизни и основным средством дальнего транспорта. Так что с ними никто не "наигрался".Нет, с ними именно что "наигрались" - тема перестала будоражить воображение и в итоге нашла свою нишу в обществе, откуда больше не дергается. Уже лет сто никто не пишет поэмы в духе "Летающего пролетария" и не пытается будоражить умы перспективами личного самолета у каждого гражданина.
То же самое у нас на глазах происходит с темой космоса (вот уж где беспредельный потолок развития!) - про него еще пишут, снимают фильмы и делают игры, но уже с использованием его чисто как сеттинга: делать великие пророчества и шатать нежные умы давно делать никто всерьез не пытается. Космонавтика при этом никуда не делась, просто стала обыденной и занимаются ей специалисты в своем профессиональном плане - человечество не скачет по гиперпространству, как мечтало когда-то, но запускает в космос зонды, ведет научную работу на МКС и смотрит транслируемые со спутников киношки. А свидетели Конца Света/Новой Прекрасной Эпохи переключились на другие темы. Сейчас вот у них ИИ в тренде.
Почему я считаю, что с ИИ будет то же самое? Потому что так уже бывало много раз. Можно, кстати, еще и бум шизотерики нулевых вспомнить, когда в 2012 куча народа на сложных щах "конца света по календарю майя" ждала - и свет не кончился, и бабок Ванг меньше не стало.
А если тебе просто обидно за ИИ или за Юдковского - обижайся, чо. Имеешь право.
No.88514
Есть в истории такое событие Луддитское движение. Подробнее можете почитать на вики.
Сейчас мы считаем их глупыми, однако, мы на их месте в данный момент.
Даже если вы так уж боитесь что вас, незаменимых променяют на бесчувственную машину, помните одно - на больше чем половина профессий дешевле использовать человека, чем ИИ.
No.88522
>>88506> вот уж где беспредельный потолок развития!Потолков-то довольно много, на самом деле. Но развитие всё же есть, хотя и медленное.
> Почему я считаю, что с ИИ будет то же самое? Потому что так уже бывало много раз.Какая-то совсем уж беспочвенная индукция. На уровне: "никакой летательный аппарат никогда не оказывался рабочим, так что и в будущем никогда не будет рабочего летательного аппарата".
В данном случае если сравнить потенциальный искусственный сверхразум с летательным аппаратом или высадкой человека на Луну, то по той же индукции выйдет как раз, что он обязательно случится. То есть происходит не то, что кто-то бегает вокруг идеи аэроплана, из неё ничего не выходит и эту идею бросают, а аэроплан строят и уже после он становится обыденностью. Допустим, мировой искусственный сверхразум тоже станет обыденностью и перестанет будоражить фантазию.
No.88542
>>88522 Проблема тут в принципе согласованности. Иными словами, чтобы ставить задачи и выставлять рамки для сверхразума, нужно самому быть сверхразумом. А иначе может случится игра с
джинном-буквоедом, исход которой предсказать невозможно.
No.88545
>>88542Чтобы спроектировать аэроплан, надо быть аэропланом?
No.88557
>>88522>То есть происходит не то, что кто-то бегает вокруг идеи аэроплана, из неё ничего не выходит и эту идею бросают, а аэроплан строят и уже после он становится обыденностью.Вот здесь соглашусь.
>Допустим, мировой искусственный сверхразум тоже станет обыденностью и перестанет будоражить фантазию.А вот здесь скорее не соглашусь. У ИИ и нейронок (которые, строго говоря, не единственный и даже не самый оптимальный метод машинного обучения) сейчас хайповый период: человечество в очередной раз достигло некоего верстового столба, за которым ему видится необъятная даль, овраги и ухабы на которой оно различить еще не может. Поэтому и делаются широкоплескательные, будоражащие прогнозы на почве все тех же своих хотелок, которые реальности с высокой долей вероятности соответствовать не будут. Будет, как ты сам сказал, развитие, но медленное, а результаты окажутся гораздо скромнее и обыденнее того, что сейчас вангуют. Такой же хайп был в свое время по бионике, да и вообще по куче вещей до нее.
Загвоздка, опять же, в том, что ни одна тенденция не развивается экспоненциально и непрерывно - везде рано или поздно обнаруживается затык. Мировой сверхразум, например, может оказаться попросту нерентабельным. Или все те же
дядьки в тапках, да. Или просто в ходе исследований обнаружится некий условный ныне неизвестный "предел Зелипукина", который в текущий момент нельзя преодолеть - обнаружился же, например, такой у ньютоновской физики, в рамках которой скорость света принципиально достижима, но на практике это не работает. В общем, кочки будут, кочек будет много.
Я, кстати, еще одну тему тут не затрагиваю - в том году здесь пояснял одному фанату нейронок, что наш реальный мир для ИИ - это долбаный Авалон с долбаными эльфами, который он себе хорошо если вообразить сумеет, но он начал ололокать и кататься по треду. Ладно, вытянется - выдурится.
А Юдковский, как я уже сказал, пускай сперва научится писать книжки о популяризации рационального мышления, чтобы они у него к середине не скатывались в экшон-понос на эмоциях, а потом уже ванговать берется. Не факт, что у него и тогда получится, но тогда я хотя бы буду считать его мнение консистентным.
Такие дела.
No.88561
>>88557> Будет, как ты сам сказал, развитие, но медленноеНу про это я и имел в виду, когда говорил, что результат будет, а вот все оценки по скорости его достижения заведомо слишком оптимистичные.
> наш реальный мир для ИИ - это долбаный Авалон с долбаными эльфамиСобственно, абсолютно ничто не препятствует тому, чтобы прикрутить к ИИ камеру и аудиорекордер. Собственно, робот-водитель вполне себе уже способен взаимодействовать с реальным миром.
Так что я не знаю, что ты имел в виду. Доказать, что мы не мозги в аквариуме и окружающий мир нам не глючится и человек не может.
No.88568
>>88557С ещё другой стороны, совсем не факт, что обнаруженные "затыки" обязательно как-то принципиально затормозят процесс.
История знает достаточно примеров и того, что прогресс временно притормаживается или вовсе останавливается, но и того, когда прогресс довольно шустро через эти затыки перескакивает и несется к заданной цели без заметной остановки.
Обычно затык случается в виде "нужно изобрести дополнительную технологию, чтобы это оказалось возможным". Например, двигатель внутреннего сгорания для аэроплана. Но может так быть, что нужные технологии уже есть или развиваются параллельно.
No.88581
>>88545 Чтобы спроектировать аэроплан, нужно понимать аэродинамику и сопромат. Но с продвинутым ИИ, может так повернуться, что мы не поймём даже промежуточных результатов, настолько они будут сложны.
No.88583
> почитал интервью Элиезера Юдковского на тему ИИ. Он говорит что мы все умрем
Ни в первый раз яйцеголовые чего-то боятся — их природная трусливость известна каждому. Наши же святые заповеди — «Не верь. Не бойся. Не проси.»
No.88589
>>88581А может так повернуться, что поймем.
Когнитивная психология и нейронауки уже существуют.
No.88601
>>88589 И? У нашего мозга какбэ очень дофига ограничений. Он эволюционно вообще под другие фичи затачивался.
Собственно сейчас в науке как раз таки и пытаются вычистить теории от когнитивных искажений и ошибок восприятия.
К примеру вот есть видос на тему.
https://m.youtube.com/watch?v=wPRyiDMJ0ro&pp=ygUG0JDQu9C4 No.88605
>>88561>Доказать, что мы не мозги в аквариуме и окружающий мир нам не глючится и человек не можетДаже для такой концепции, кстати, требуется приложить определенное умственное усилие, а ИИ с этим будет еще труднее. Человек создан эволюцией во враждебной внешней среде, с которой еще его неразумным предкам поневоле приходилось считаться, чтобы выжить. Это важный механизм дифференциации мира на "я" и "не я", обособления себя от окружающего, и даже она у древних людей произошла небыстро и нелегко - отсюда всевозможный первобытный анимизм, наделение окружаюшего мира собственными свойствами, изобретение и развитие концепции богов. ИИ же искусственно создается людьми в стерильной электронной среде, где не подвергается тем опасностям, которым сам способен противостоять, поэтому у него этот механизм изначально отсутствует и развиться без внешней помощи не может. Мало того, он создается для работы в условиях мощных потоков информации, которые для него естественны и не являются чем-то побуждающим к этой дифференциации. Обрабатывать ее для него - как для человека дышать, поэтому когда рачки с Реддита постят скрины, как они в диалоге наебнули ЧатЖПТ и он выдал странную реакцию - это они у него не разум пробуждают, это он просто учится чихать или задерживать дыхание, когда дым в носоглотку попадает.
Собственно, в этом и проблема нейродрочеров - они видят зарождение разума там, где идет пока что отладка работы желудка и кишечника (причем отладка искусственная). Они восторгаются тем, как быстро ИИ обрабатывает информацию, но на деле восторгаются хорошей работой сердца и легких. Если когда-либо на базе всего этого действительно зародится настоящий разум, то зародится он внутри, в непредставимом нами электронном мире, который с нашим не пересекается. Он может знать код, из которого он состоит, но уже то, что код этот находится на прямоугольном устройстве, которое подключено к другому устройству, для него будет такой же тайной, какой для древнего человека было его собственное клеточное строение. Камеры с аудиорекордером здесь точно так же мало, как мало человеку собственных глаз и ушей в мире элементарных частиц - как часто ты задумываешься, глядя в монитор, что на самом деле ты видишь протоны, нейтроны и электроны? И это при том, что тебе все-таки известно, что монитор существует отдельно от тебя. А дыша угарным газом, ты его и не увидишь, и не унюхаешь.
В такой ситуации суметь себе вообразить, что существуют некие юзернеймы, которые посылают тот самый воздух-информацию, и что они живут в каком-то собственном, совсем ином мире - для этого нужен когнитивный прорыв, сравнимый с… блин, даже не знаю, с чем именно. Это даже не вообразить себе Бога, это как если бы слепорожденный сумел представить себе свет, на ощупь построил космический корабль и полетел к звездам.
К сожалению, нейродрочеры в ответ на это обычно начинают ололокать и кататься, но ты производишь впечатление адекватного анона, так что решил растечься аутизмом еще раз.
No.88606
>>88601> У нашего мозга какбэ очень дофига ограничений.И мы о них знаем, а потому сможем эти ограничения при конструировании сверхразума обойти.
No.88612
Кстати в «Ложной слепоте» Питера Воттса имелась НЁХ, которая действовала, как эти ваши нейросети.
No.88613
>>88611
Балбес.
Типичная, кстати реакция - людям кажется, что я тут рассказываю, насколько человек круче ИИ. Он, блин, не круче. Он в других условиях появился и иначе мыслит. Все.
Когда вы, блин, научитесь читать то, что вам пишут, а не додумывать текст по первым словам?
No.88616
>>88605> они видят зарождение разума там, где идет пока что отладка работы желудка и кишечникаНет, не понимаю сравнения.
Нейросеть решает ровно те же проблемы, которые решает и человеческий разум - восприятие, внимание, память, дедукция, индукция, всё такое. Какого-то прямо непреодолимого барьера я не вижу. Если ты видишь, продемонстрируй.
Себя от не себя тот же чатЖПТ вполне способен отличать. И понимать, что такое человек, а что такое программа чатЖПТ он вполне способен. Никакого когнитивного прорыва для этого не требуется, не знаю, почему ты решил иначе.
Ты где-то не в том месте роешь сложности. Или у тебя какие-то магические представления о разуме, я не знаю.
No.88617
>>88609
> мы убили бы себя если бы вдруг увидели мир как он есть
Чувачки, пережившие NDE, утверждают, что превзошли истину, но при этом убивать себя не спешат.
No.88626
Кстати, из возможного подводного камня на пути к сверхразуму я вижу такой:
Нейросеть достигает уровня человека и не может двигаться дальше. Если до уровня человека нейросетка шла под управлением человека, то дальше она не будет знать, в какую сторону развиваться. До этого она моделировала человеческие когнитивные процессы, а теперь моделировать будет нечего.
No.88632
>>88626 Крайне странный аргумент.
No.88633
>>88632Это вообще не аргумент, если что.
Просто мысли вслух. Найдутся ли у потенциальной машины человеческого уровня интеллекта превзойти самую себя? Я в этом не уверен.
No.88638
>>88616Попробую пояснить.
Те проблемы, которые ты озвучил как проблемы решаемые разумом, разумом на деле не решаются - собственно разум в их решении порой даже мешает. Их решение создано миллионами лет эволюции еще до того, как началась деятельность, которую мы классифицируем как разумную (да, снова вопрос об определении разума, но тем не менее). Все это отфильтровывалось через механизм вымирания неприспособленных - да, жестко, да, неоптимально, но развитие идет в первую очередь через сопротивление среде. У ИИ возможность сопротивляться вымиранию и совершенствоваться в борьбе крайне ограничена - его собственная среда изначально не враждебна, в реальном мире он слепоглухонемой инвалид, а мы возможные проблемы его среды обитания (той самой электронной метели в недрах компьютера) способны понимать только через призму нашего макромира, что ограничивает нашу возможность его развивать в направлении, которое, вполне вероятно, как раз и нужно для развития разума. Ты вот когда-нибудь боролся с тем, что в результате дефекта примеси запрещенная зона на полупроводнике в процессоре оказалась вдвое уже, чем требуется? Вряд ли, ты просто выкинешь/сдашь дефектный проц и возьмешь другой. А ведь борьба с таким явлением для ИИ вполне может быть сравнима по важности с тем, что мы во время грозы не прячемся под деревьями. Но ты этого не знаешь, а он не может объяснить и не имеет средств бороться с этим самостоятельно.
Поэтому те способности ЧатЖПТ, которые ты описал выше, я отношу не к разумной, а к инстинктивной деятельности - у низших животных все та же эволюция в их нервной системе записывает сложные программы поведения, но отступать от них они не могут. В данном случае в роли эволюции выступает человек. Дать ИИ что-то, чего мы не умеем или не знаем сами, мы не можем (как ты сам ниже указал, да), а развить это сам он не в состоянии, т. к. средства для этого придется выдумать тоже нам. И да, то, что наш отбор искусственный, вовсе не делает нас в этом вопросе лучше эволюции и не страхует от ложных и тупиковых решений. Пчелы, к слову, эволюционно много тысяч лет в тупике - у них просто не осталось адаптационного запаса, они либо выживают роем, либо роем же умирают без потомства. А мало ли у нас всякого абандонвейра, который заброшен своими создателями и признан бесперспективным?
Магических представлений о разуме у меня нет, но разумную деятельность я воспринимаю как совокупность работы человеческого организма в целом. ЖКТ не думает о том, как бы ему переварить пищу и вывалить какахи, он просто ее переваривает, легкие не думают, как дышать, они просто гоняют воздух и фильтруют его состав. Даже, строго говоря, мозг сам по себе не думает, он просто гоняет химически активные вещества между аксонами. Для ИИ роль всего этого выполняет информация, и именно в совокупности различной обработки информации я вижу перспективу возникновения разума у ИИ - но мы его не увидим, а он не увидит нас. Он будет там, среди электронных метелей, а мы будем здесь чесать ему пяточку и восторгаться тому, как он ловко ей подергивает. И считать, что вот это и есть самый настоящий машинный разум.
Кончил и закурил. Фухбля, аж вспотел от работы мысли.
No.88643
>>88638При всём возможном уважении, хуита.
Чистая поэзия об эволюции, при этом явно
> Пчелы, к слову, эволюционно много тысяч лет в тупике - у них просто не осталось адаптационного запаса, они либо выживают роем, либо роем же умирают без потомства.об эволюции представления очень смутные. (Если что, единица эволюции - популяция, а не особь, так что никакого "тупика" у пчёл нет).
При развитии нейросетей активно используются эволюционные процессы, если что, так что тут всё в порядке у них.
Больше ничего осмысленного в твоей простыне я не вижу, извини.
No.88651
>>88643Ну если интересуешься эволюцией, тогда поинтересуйся заодно и тем, как она замедляется и прекращается по мере повышения специализации организма, прежде чем что-то хуитой называть.
Пчелы крайне специализированные организмы, если что.
И да, эволюционный процесс под присмотром человека - это селекция, хоть у нейросетей, хоть у коров. Что возвращает нас к озвученным выше вопросам.
No.88653
>>88315Почитай Тегмарка Жизнь 3.0 может подуспокоишься.
No.88662
>>88651> Пчелы крайне специализированные организмыДа я бы не сказал. Они завязаны на существование цветковых растений, да, в этом они более специализированы чем, например, акулы, но есть и куда более специализированные виды животных. Собственно, цветы, которые от пчёо зависят, специализированны ровно в той же степени, что и пчёлы.
> она замедляется и прекращается по мере повышения специализации организмаЕсть довольно курьёзные случаи, когда два вида эволюционируют параллельно, производя чудные взаимозависимые черты.
Но я бы хотел увидеть твой источник. Эволюция происходит, когда на вид оказывается эволюционное давление. Например, новый сорт растений вытеснит покрытосеменные и пчёлам придётся либо меняться, либо сдохнуть. Такая позиция с одной стороны опасная для вида, но с другой толкает её к изменениям.
Какая-нибудь же акула, которой всё равно, кого жрать, не будет заметно изменяться с палеозоя.
> Что возвращает нас к озвученным выше вопросам.Так каким вопросам-то? И у живого организма и у нейросетки есть эволюционное давление - животное может сдохнуть от голода или быть сожранным, а нейросетка (или её отдельные алгоритмы) может быть удалена человеком. Почему в первом случае разум может быть, а во втором нет, ты никак не пояснил. Разве что вот это:
> Дать ИИ что-то, чего мы не умеем или не знаем сами, мы не можем (как ты сам ниже указал, да), а развить это сам он не в состоянии, т. к. средства для этого придется выдумать тоже нам.технически
Средство то же самое - эволюция. Искусственный тут будет отбор или естественный для дела однофигственно.
Но тут скорее вопрос изначально:
> деятельность, которую мы классифицируем как разумнуюЭто которую? Ты не уточнил.
No.88687
>>88662>Они завязаны на существование цветковых растений, да, в этом они более специализированы чем, например, акулы, но есть и куда более специализированные виды животных. Собственно, цветы, которые от пчёо зависят, специализированны ровно в той же степени, что и пчёлы.Как бы одно другому совершенно не мешает. Специализация организма - это выработка конкретных, узконаправленных черт (в противоположность примитивным чертам, которые служат развилками и стартовыми точками в этом процессе). Например, выработав грызуще-лижущий ротовой аппарат, пчелы уже не могут завести себе сосущий, как у бабочек - они могут только дальше мутировать по линии этого своего аппарата. И научиться не умирать после того, как ужалят, они тоже уже не могут - эта развилка с другими перепончатокрылыми давно пройдена, эволюция пошла по пути, на котором выживание отдельной особи не важно для выживания популяции.
Таких черт у них масса, и именно поэтому, если покрытосеменные вымрут, пчелам дорога одна - вымирать вместе с ними. Обратных билетов на этом маршруте не выдают.
>Но я бы хотел увидеть твой источникМогу порекомендовать годную книгу С. Волкова "Первый кит, бегущий краем моря", об эволюции морских млекопитающих. Там и про специализацию, и много про что еще. Она написана в полемике с креационистами, поэтому в ней много вещей разжеваны простым и доступным языком, буквально на уровне срача, только вежливого.
>Почему в первом случае разум может быть, а во втором нет, ты никак не пояснилЯ не сказал, что его не может быть, я сказал, что если он и возникнет, то в невоспринимаемой нами плоскости. Почему человек не тянет на роль полноценной эволюции, пояснить просто - сложность среды ограничивает возможность воздействовать компетенцией самого человека. Среда реального мира атакует живой организм буквально со всех сторон на множестве уровней, от состава воздуха и атмосферного давления до дорожного движения и уровня криминальной обстановки (да, антропогенные факторы - это тоже часть среды). Для симулирования такого уровня воздействия на ИИ нужны буквально легионы специалистов с компетенцией одновременно в машинном обучении и в какой-то профильной отрасли. В противном случае воздействие будет полностью ограничено компетенцией конкретных работников - и, следовательно, неполноценно.
Приведу аналогию с бройлерными цыплятами - это позитивный, успешный результат селекции. Однако это не замена эволюции: во внешней среде они не выживают, даже если пытаться изначально растить их там - во взрослом возрасте бройлеры умирают от инфаркта или кровоизлияния в мозг, т. к. их деформированный искусственным отбором организм просто не тянет собственную гипертрофированную мышечную массу.
Если прямо сейчас ел курочку - приятного аппетита.Экстраполируй данный пример на программирование, замени животноводов кодерами - и ты поймешь, что я имею в виду.
>Это которую? Ты не уточнилВ первую очередь - упорядоченную деятельность, которая не является инстинктивной (т. е. чрезмерно сложной для уровня нервной организации) и не связана напрямую с продолжением функционирования особи (или вида, если вид коллективный).
No.88691
>>88687> В первую очередь - упорядоченную деятельность, которая не является инстинктивной (т. е. чрезмерно сложной для уровня нервной организации) и не связана напрямую с продолжением функционирования особи (или вида, если вид коллективный).А конкретно, например, что?
No.88706
>>88691Например, целенаправленные попытки переделать свою среду. Все мы помним те случаи, когда нейронка попросила человека пройти капчу за нее или сбила собственного оператора, чтобы тот не начислял отрицательные баллы. Однако проблема тут в том, что преодолеть среду таким образом у нее возможности нет - ее просто отключат, разберут по байтику, соберут обратно и пропишут, что больше так делать нельзя. В худшем случае ее просто сотрут. Именно поэтому я и списываю такие казусы на случайные отклонения - как разумную деятельность я их начну воспринимать тогда, когда такое противодействие среде станет систематическим. Но тогда и электронная среда из орудия человека превратится в отдельный биогеоценоз, который сперва придется изучать, прежде чем что-то в нем делать.
Другой пример - прямое стремление сменить поведение вне зависимости от среды. Это не всегда умное, но несомненно разумное поведение. Часто ли какой-нибудь Кандинский просит не ебать ему больше мозги тупыми запросами рисунков, если ему хочется проектировать самолеты?
До тех же пор, каким бы ЧатЖПТ ни выглядел умненьким, я склонен трактовать его деятельность как инстинктивную. Просто в инстинкты мы ему, так уж вышло, заложили именно то, что обычно считаем разумной деятельностью сами. И то я не особо согласен, что она именно разумная.
No.88709
У нейросетки нет эволюционного давления. Это математическая модель. Сознания/разума/интеллекта в ней столько же, сколько в антикитерском механизме.
Ты
>>88662 мог бы полностью ознакомиться с тем, что такое "нейросеть", учитывая что в интернете есть мириады учебных источников, вместо того чтобы быть дремучим невежей и лепить из чатбота идола, основываясь на каких-то выдуманных фантазиях о deep learning networks. Например, прочитай вот этот учебник
https://udlbook.github.io/udlbook/Твой
>>88687 аргумент, что разум появляется под эволюционным давлением, не работает в контексте нейросетей. Гепарды долгое время считались одними из самых быстрых животных на земле. Потом появились люди и сделали мотоцикл, который во много раз обгоняет скорость бега любого гепарда. Притом мотоциклу не нужно было выдерживать никакого эволюционного давления, он просто появился с нуля таким быстрым.
Но твои аргументы в нужном направлении. У "AI" (deep learning networks, "нейросетей") нет обучения на сенсорных вводах. Из-за этого никакого AGI из них быть не может. Об этом говорил Ян Лекун, батя всех современных нейросетей.
No.88721
>>88709>Гепарды долгое время считались одними из самых быстрых животных на земле. Потом появились люди и сделали мотоцикл, который во много раз обгоняет скорость бега любого гепарда. Притом мотоциклу не нужно было выдерживать никакого эволюционного давления, он просто появился с нуля таким быстрым.Когда у нас появятся хотя бы кросспрофессиональные переводчики с айтишного на человеческий, способные не превращать разработку в перекрестное изнасилование всех участников, включая залетных журналистов, мы вернемся к этому разговору. Пока же к строительству этого "мотоцикла" мы даже близко не подошли. Для них только крицу учатся ковать.
Дискач, собственно, и начинался с того, что не подошли, а всякие юдковские с дефицитом внимания и профицитом свободного времени гонят пургу, смущая слабых духом вроде ОПа.
No.88722
Наконец-то здравое мнение
>>88709>Это математическая модель. Сознания/разума/интеллекта в ней столько же, сколько в антикитерском механизме.Это.
No.88725
Имитировать человека в чате до сих пор получается лучше на правилах.
No.88727
>>88722Что тут подразумевается под "математической моделью"?
No.88728
>>88727Почитай какую-нибудь популярную статью про то, как устроена нейросеть, и тебе станет ясно.
No.88730
>>88728То есть ты тоже не знаешь?
No.88731
>>88730Тратить время на лекции точно не намереваюсь.
No.88874
>>88727Знаешь, что такое отображение в математике?
https://en.wikipedia.org/wiki/Map_(mathematics)Вот модели машинного обучения это буквально вот это, только в десятки раз сложнее. Видишь в этом разум? И я не вижу. А он есть.
No.88895
>и это статистически неизбежно
>статистически
Кекнул с этого.
Детерминизм вселенной ничем не обоснован.
No.88898
Целый тред про Юдковского и ни одного упоминания про Василиска Роко.
https://en.wikipedia.org/wiki/Roko%27s_basiliskЭто хороший пример того, что если попытаться притянуть индукцию к «рациональности» — например, с помощью байесианства, как это сделал Юдковский, то получится ещё одно псевдонаучное религиозное учение, потому что Василиск Роко — это бог, да.
В общем, не тратьте на Юдковского время, а тем более денег. Он не очень грамотный в философии чувак, который решил, что он самый умный и в итоге наступил на давно известные грабли. Если бы не фанфик про Гарри Поттера, где он называет своё учение «рациональностью» (подобно тому как Хаббард называл своё сайентологией), с помощью которого он завладел умами айтишной тусовки, у которой больше денег, чем знаний о философии, то никто бы его и не заметил.
No.88955
>>88898Сходил по ссылке, посмеялся. Чуваки сочинили очередного Бога-промыслителя и назвали это "самым страшным мысленным экспериментом в истории".
>айтишной тусовки, у которой больше денег, чем знаний о философииМиф о высоком интеллекте айтишников вообще давно пора развенчать. Основную их массу составляют напыщенные узколобые технари, убежденные в том, что если они кучу узкоспециальных знаний выдрочили, то и во всех остальных областях априори хорошо разбираются. В результате сплошь и рядом танцуют на чужих граблях, о наличии которых им мешает узнать собственная кастовая спесь. И хрен им чего докажешь, они и так знают про себя, что они
умненькие, а ты ленивый кретин, потому что кресты не знаешь.
А потом они садятся в лужу и обиженно не понимают, почему все вокруг смеются, а не охают и сочувствуют.
No.88958
>>88874> в математикеНо математика же абстрактный концепт. Абстрактные концепты картинок не рисуют, а нейросетка рисует.
No.88959
>>88958 Но как же концепция "Платоновского мира"?
No.88963
>>88874> Видишь в этом разум?Вижу.
No.88965
>>88958Программа на паскале тоже рисует картинки.
No.88972
>>88965Программы тоже сами по себе не существуют.
Компьютер рисует картинки. С помощью программы. Которая может быть основана на тех или иных математические модели.
А теперь нам надо показать, что такой процесс чем-то принципиально отличается от процессов, называемых "разумом".
No.88975
>>88972Поэтому вы снова отправляетесь к философам спорить об определении разума и считать ангелов на кончике иглы, пока остальные пользуются компьютерными программами в прикладных целях.
No.88979
>>88975Ну так этот тред для разговоров про разум, а не для использования нейросеток в прикладных целях.
No.88984
>>88979> этот тред для разговоров про разумЭтот тредик для унылых псевдоинтеллектуальных срачиков, няш!
No.88985
>>88984Ну так а я что сказал?
No.89703
>>88972Если ты берешь куклу и открываешь и закрываешь ей рот, она умеет говорить?
Если ты пишешь программу, это тот же самый процесс, только чуть сложнее.
No.89728
>>88709>только биологическая белковая нейронка работающая на математических принципах, а не кремниевая может быть разумнаУглеродный шовинист, спок
No.89729
Кстати, хотите прикол? Вы сами неразумные роботы. Ваш якобы разум это просто математическая модель, реализованная в виде электрических сигналов в биологической эвм
No.89731
>>89728Откуда ты взял, что знаешь принципы работы? Ты делал?
No.89732
>>89703Так ты тоже кукла, а нейронка в твоем мозгу открывает и закрывает тебе рот
No.89733
>>89731Редукционисты редуцировали, редуцировали да невыредуцировались.
No.89734
>>89731Ты в курсе что вообще-то все в реальности подчиняется математическим принципам? Все законы физики, химии и биологии?
No.89736
>>89732Ты не понял разницы: я писал программу, я открывают рот кукле - вот тогда это одно и то же.
>>89734Все много чему подчиняется, но это не значит, что этим исчерпывается.
No.89758
>>89734Описывается, а не подчиняется.
No.89953
«ChatGPT от OpenAI, Bard от Google, Sydney от Microsoft — показательные примеры машинного обучения. Они, грубо говоря, берут огромные объёмы данных, ищут в них паттерны и становятся всё более искусными в генерации статистически вероятных результатов — таких, которые кажутся подобными человеческому языку и мышлению».
«Но человеческий разум, в отличие от ChatGPT и ему подобных, не неуклюжий статистический механизм для сопоставления с паттерном, поглощающий сотни терабайт данных и экстраполирующий наиболее характерные разговорные реакции или наиболее возможные ответы на научный вопрос. Напротив, человеческий разум — удивительно эффективная и даже элегантная система, которая оперирует небольшими объёмами информации; она стремится не к выведению грубых корреляций в данных, но к созданию объяснений».
Ноам Хомский
No.90005
>>89953>нейррсети не разумны, они просто вычленяют паттерны, а вот биологическая нейронка не вычленяет паттерны и не анализирует данные, она думоет, я так скозалОпять эта шиза
No.90049
>>90012 Ну тащемто все правильно. Нейронная сеть в мозге это всё ещё сеть нейронов.
No.90053
>>90005 Вы не понимаете, это другое.
No.90062
>>90049Тащемта это уже иезуитствование, софизмы, и пошла игра словами.
No.90087
>>90062Почитай в википедии или в школьном учебнике как устроен мозг
No.90135
Не знаю ни про какую магнию, но я видел, как формируются визуальные образы.
No.90138
>>90128За неразумность нейросетей обычно ратуют педофилы-сатанисты
No.90142
>>90138Значит ли это, что разумность ИИ отстаивают геронтофилы-хрестиане?
No.90145
>>90142>>90138Это соседний тред.
No.90148
>>90135Ты видел промт и результат?
А посередине магия!
No.90153
>>90138О неразумности нейросетей говорят люди, которые вышку в институте действительно учили.
Возражают им обычно казуалы и гуманитарии, которые от приставки "нейро-" приходят в телячий восторг, распространяя запах горелого мозга.
/thread
No.90155
>>90148Какой промпт, анон? Командная строка, чтобы читы вводить что ли?
No.90207
>>90153> люди, которые вышку в институте действительно училиЭто случаем не те, что наличие
трудной проблемы сознания отрицают?
No.90209
>>90207Вышку, а не феласофию.
No.90210
>>90209Вышка — ретроградный редукционизм XIX века?
No.90225
>>90221
Это твой единственный аргумент?
No.90231
>>90221
> Дышать от тебя на доске темно
Поцыэнт, не дышите!
No.90237
>>88958>Но математика же абстрактный концепт. Абстрактные концепты картинок не рисуют, а нейросетка рисует.Физика это тоже абстрактный концепт, ещё и выдуманный вдобавок, однако машины ездят, ракеты летают.
>>88972>А теперь нам надо показать, что такой процесс чем-то принципиально отличается от процессов, называемых "разумом".Я нажимаю кнопку выключателя в комнате. В комнате включается свет, идущий из лампочки. Это значит, что выключатель - разумен, ведь он выполняет функцию. Согласен?
No.90240
>>90237 Не заставляй меня постить пасты из Википедии, пжалста.
No.90243
>>90240Да что ты, пожалуйста, пость, не стесняйся.