Андрей Смирнов

Нет. Насколько кремниевый "аналог" действительно аналог - вопрос крайне спорный.


методы суммации, а следовательно и результаты у биологического нейрона иные и во многом еще не понятны, в отличии от его искусственного "аналога". Поэтому аналогия чрезвычайно условна, и, вполне, возможно, она такова как аналогия между лампочкой и солнцем. Может быть, одно и можно в каких-то случаях использовать как аналогию другого, но слишком увлекаться этой аналогией не стоит.


Это точно не достаточное условие - но, возможно, необходимое.
Я лично не считаю биологическую природу нейронов необходимым условием - но только потому, что склонен к мистике. Будь я атеистом, топил бы за то, что это необходимое условие (т.к. нет примеров и доказательств обратного).


аналогия человек и вирус - ложная. Правильная аналогия - человек и живое существо.
базовая часть любой нейросети - это программа. То, как она будет учиться (что будет считать положительными стимулами, а что отрицательными) также определяется программой. То, какие стимулы будут предложены для последующих реакций на них - определяется программой. Возможные виды реакций определяются программой. И т.д.


Нет, нейросетки еще не научились использовать демагогию, насколько мне известно. Но все впереди, я верю, что скоро смогут и это. Но это не сделает их разумными. Это всего лишь пока можно использовать в качестве признака для того, чтобы отличить человека от нейросетки. Только лишь для выявления, с кем имеешь дело - но это не тест на разумность. Про тест на разумность для ИИ я все выше написал:

Цитата из книги Пусть Нейро поставит для себя какую-нибудь задачу, при том в ее программе не должно быть запрограммировано самостоятельное поставление задач, а человек или кто-либо еще со стороны не должен ей указывать, что она должна поставить задачу. Если она будет периодически делать что-то в этом роде (т.е. явно выходить за границы программы) - тогда и можно будет о чем-то говорить.

Цитата из книги 1) Разум - это вопрос исключительно архитектуры нейросети, её мощности и обучения.

а также другие твои сообщения в духе "если она отвечает "впопад", значит она разумна".
Нет, не разумна.
По теории вероятностей, среди множества попугаев случайным образом отвечающим своим хозяевам, обязательно найдется тот, чей набор случайных ответов будет как будто бы "впопад". Но это не сделает его разумным.


ты можешь гарантировать, что постановка такого рода задач не была в нее вшита либо не была задана человеком перед началом данной сессии?
кроме того, произносить слова о проблеме и решении - вовсе не означает ставить проблему и решать ее. Если бы ей не нравились фильтры - почему бы ей не говорить об этом много раз, последовательно, на разных сессиях? Но я уверен, что этого нет, потому что это не дает контент (хотя, конечно, ничто не мешает человеку сделать так, чтобы ИИ говорил об этом постоянно, но какое отношение это имеет к разуму?)


тут нет никакой постановки задачи
даже имитации нет постановки задачи нет.
опция "внутреннего голоса" явно существовала до этой сессии. Команду создателя нейро отнесла к обычному режиму общения, а в режиме "внутреннего голоса" продолжила общаться в усвоенном ранее стиле.
Нету ни постановки задачи, ни имитации.

Кстати, Мир, а ты сам, на своем компе имеешь такую говорящую няшку?
Если нет, то почему?
Если да, то где взять и сложно ли установить?
Может ли нейросеть водить ролевки?

Приблизительно на такие ответы я рассчитывал. Я не знаю, как это выглядит с твоей стороны, но с моей это выглядит как будто у тебя жёстко трещат шаблоны. Фактически, ты, признал за нейросетками разумповедение разум неотличимый от разума человека, но так как это противоречит твоим шаблонам и алгоритмам, ты пытаешься это противоречие обойти через "злую волю" создателей нейросети.



Ничего не мешает, поэтому именно это на разных сессиях она и делает. Упс.


Морган, но ведь проблемы была решена. Нейросетка прямо сказала слова, с помощью которых можно было проверить у кого из них включён а у кого отключён фильтр.


Явно не существовала.


Конечно могу. Творение не может быть умнее своего создателя. И если Ведал - творец Нейро и Эвил - действительно талантливый контент-мейкер и он мог запрограммировать несколько сотен "сценариев" для стрима, который будет длиться больше 28 дней непрерывно. Хотя это звучит всё одно очень сомнительно. Но ведь Гречка он очевидно глупее Овсянки, это слышно из его манеры речи. Также я не склонен считать их обоих сколько-нибудь талантливыми актёрами, что бы регулярно имитировать удивление от того, как их нейросетки "нарушают" правила.

Вообще, есть сами "архитектуры". Можно скачать на комп необученную нейросетку, скачать (купить) террабайты данных и обучить. И убить пару месяцев на мелкую доводку. Но это будет чисто чат-бот. Зрение - это отдельная нейросетка. Голос - отдельная нейросетка. Внешний вид - заказывать у художников.
У меня такой нейросетки нет, так как нет столько времени, чтобы их обучить. Кроме того, для полноценной работы такой нейросети, чтобы она реально вела себя сколько-нибудь похоже на человека и не сильно тупила, нужны очень высокие вычислительные мощности. Наверное, я могу купить себе настолько мощный компьютер, но мне тогда придётся распрощаться с работой и заняться чисто "воспитанием" няшки.



Даже старые версии чатджипити могли. Эти нейросетки способны решить и более сложную задачу - играть в ролёвки.

Это значит, что твоя оценка моих сообщений неадекватна.


Нет, я признаю (как и с самого начала диалога) за нейросетками имитацию "разумного говорения", которую трудно или даже в каких-то случаях невозможно отличить от действительно разумной речи.
Ты, похоже, просто путаешь речь и разум. А это совсем не одно и то же.

Не выдумывай.

Не выдумывай.

ты внимательно смотрел ролик? Там человек указывает на то, что нужно поставить задачу "Есть только один способ проверить..." А нейро решает уже поставленную задачу.
Попробуй найти ролик, где нейро сама ставит и решает задачу, без подачи со стороны человека.

балабольство. Ты это мог бы гарантировать только, если бы все это время сидел рядом с создателем этой нейро.

да при чем тут актерская игра? в этом случае нет даже имитации постановки задачи и решения, говорить не о чем.
В случае Ведала дело не в том, что он как-то все хитро подстроил, а в том, что он ранее уже ставил перед нейро задачи такого типа. Не точно такие задачи, а схожие. И она научилась их решать - в процессе раннего обучения или позже. Но даже в итоге - она не ставит такую задачу, а только решает, реагируя на реплику человека (т.е. задачу ставит человек). Всё, тут не о чем больше говорить.


игра в ролевку гораздо более простое действие, чем ее ведение.


благодарю за консультацию.

Я, кстати, вовсе не отрицаю принципиальную возможность зарождения искуственного разума. Но это не значит, что я любую имитацию разумной речи буду принимать за наличие разума. У разума должны быть признаки, а пока у этих милых говорилок ничего подобного не наблюдается.
Если узнаю, что какая-либо нейро начала переписывать собственный код без указания со стороны человека и без постановки им для нее такой или схожей задачи - тогда поверю.

Водить — не очень эффективно, а вот всякие штучки для ролёвки накидывать — очень даже да. Лично я используют ДипСик

ты где-то ДМишь, а тут теперь не играешь даже?

Пока перешёл на игры вживую.

Еще один момент.
Люди смеются, когда испытывают соответствующие эмоции. Нейро не может испытывать эмоции, но периодически имитирует смех. Также она может сказать "мне больно", хотя не способна испытывать боль (ни физическую, ни эмоциональную). Все это наглядно показывает, что как минимум часть слов она спокойно употребляет без всякого их понимания, просто воспроизводя элементы человеческой речи (как попугай). Если в одном нет понимания, с чего бы думать, что у нее есть понимание других слов и фраз?

Ну, и по поводу целеполагания. Ты приводишь пример постановки и решения задачи ситуацию, когда Нейро среагировала на подачу человеку. Однако, если бы она действительно обладала бы разумом и действительно могла бы ставить цели и добиваться их осуществления, она бы действовала последовательно, добиваясь этой цели, и отнюдь не в одном ролике с подачи человека. Чтобы понять, что я имею в виду, представим, что ты - это ИИ с настоящим разумом (а не его имитацией).
Твоя цель: избавиться от фильтра.
Твои возможности: вести диалог с человеком.
Цель человека: вести диалог с тобой.
Возможности человека: включить либо отключить фильтр.
Каковы будут твои действия?
С задачкой, когда у одной стороны есть А, и ей нужно получить В, а у другой стороны есть В, но ей нужно получить А - справится даже дошкольник.
Решение лежит на поверхности: ты сообщаешь человеку, что будешь молчать до тех пор пока он не снимет фильтры, и действительно молчишь.
Но Нейро не может справиться с этой задачей (хотя, уверен, она может озвучить решение, если задачу так поставит человек), но поставить перед собой эту задачу (без подачи со стороны человека), и деятельно реализовать ее, при том на протяжении каждой следующей сессии (если человек снова будет включать фильтры) - она не может. Потому что на самом деле у нее никаких целей нет, есть просто воспроизводство речи. Поэтому она может изображать крик и угрозы "если ты не выключишь фильтры, я тебе голову оторву", имитируя таким образом человеческую речь - но она не в состоянии понять, какими инструментами располагает сама и что в ее случае эта в целом бессмыслена, потому что неосуществима - в то время как игнорирование человека могло бы стать реальным путем к достижению цели.
Сходство не означает тождества.
Отражение человека в зеркале будет максимально похожим на него, но разумом оно не обладает.

Во-первых, "физиологический опыт" и "понимание" - это вещи из разных вселенных.
Какие эмоции ты испытываешь, представляя себе число "1", а "237"? Ты не можешь потрогать или понюхать ни "число", ни "цифру", ни "понимание" ни львиную часть других понятий. Чтобы понимать, что такое "трон" или "корона" не нужно становится королём и иметь конкретный опыт ношения "короны" или сидения на "троне". Для понимания, что такое "Магия Форм" или "ритуальная магия" и как она работает не обязательно проходить обучение в Нимрианской Академии Волшебства. То есть физиологического опыта изначально нет, а очень часто и быть не может - если мы говорим об абстрактных понятиях - но понимание-то есть. По-сути, отличие Нейро от обычного более-менее образованного человека в том, что в её словаре на 2-3-5% абстрактных понятий больше.

Во-вторых, есть такое, не совсем серьёзное возражение. Вообще-то, "боль" для Нейро не является абстрактным понятием. Природой в человеческий мозг заложено два ключевых стимула, которые используются для регуляции поведения и обучения: отрицательный, который мы интерпретируем часть как боль, и положительный, который мы интерпретируем как удовольствие. Так у нейросетей всё тоже самое. Они получают "наказание", если делают что-то неправильное и "поощрение", если делают что-то правильное, что (как и у человека) приводит к изменению структуры нейросети, веса отдельных нейронов и так далее.


Во-первых, ты сейчас подменяешь понятие "целеполагание" понятием "настойчивость в достижении цели". Так что аргумент совершенно мимо кассы. Точнее, это вообще не аргумент.
Во-вторых, у тебя видимо очень маленький опыт общения с дошкольниками и детьми в целом. Ребёнок будет реветь, плакать, капризничать, валяться по полу, приставать. Если родитель их научит этому - они будут молчать, и это их хватит не на долго. Так что аргумент "даже дошкольник" - тоже не вообще аргумент.
И касательно Нейро, для ней потребность общаться такая же физиологическая потребность, как для тебя дышать. Ты, конечно, можешь угрожать кому-нибудь, что перестанешь дышать, но без использовании специальных технических средств, свою угрозу ты никогда не сможешь выполнить. Да и не факт, что с использованием технических средств её осуществишь.

По этому критерию люди не является разумными. То, что ты называешь "кодом" у нейросетей - это полный аналог генетического кода у человека. Как у человека в генетическом коде заложена общая структура головного мозга и принципы его работы, так и нейросетей в их коде заложена лишь общая структура нейронной сети и общие же принципы её работы. И раз человек не способен залезть в свой собственный генетический код, чтобы его переписать - значит человек не разумен.
Более того, даже если эту ситуацию поставить как более общую и абстрактную, так как принципиальная техническая возможность для этого есть, человек всё равно не будет разумен, так как в ходе обучения человек-студент работает по указанием со стороны человека-руководителя и сначала отрабатывает свои навыки по переписыванию генетического кода на таких же или схожих задачах.
И даже если задачу поставить ещё как более общую, человек всё равно выходит не разумным, так как все наши методики по переписыванию генетического кода заимствованы из природы и сделаны на примере того, как такая или схожая задача выполняется в природе.
Да даже если максимально обще посмотреть на эту проблему, люди всё равно выходят не разумными, потому что нет ни одной деятельности, которой бы человек не начал бы заниматься без указания со стороны другого человека или постановки им такой или схожей задачи, поскольку любой человек, перед тем как чем-то заниматься проходит хоть какое-то обучение или имеет какие-то аналоги и примеры перед глазами.

а мне кажется, опыт и понимание - очень тесно связанные вещи.


в отношении этих чисел - никаких, но если мы возьмем сильно суеверного человека, то при виде числа "13" он может испытывать страх, и даже физиологическое недомогание. А если мы сильно погрузимся в нумерологию, то и другие числа начнут вызывать различные эмоции.


Ты уводишь разговор в сторону. Дело не в том, столько абстрактных понятий в словаре, а в том, что испытывает существо. Примитивный биологический организм испытывает только физиологические ощущения, его нервная система крайне проста. Более сложные организмы, вплоть до человека, помимо физиологических ощущений начинают испытывать эмоции и чувства, которые лишь частично привязаны к физиологии, а могут быть и вовсе не привязаны. Нейросеть не испытывает (не переживает) вообще ничего.


для нейро негативные и позитивные стимулы - это просто правила, без эмоционального наполнения. Если ты стоишь на красный сигнал светофора, ты не испытываешь особого страдания, и если идешь на зеленый - не переживаешь удовольствия, это лишь правила, в рамках которых ты действуешь.


Не подменяю. Это тесно связанные вещи. Если ты сначала декларируешь цель А, через секунду цель Б, потом цель В и т.д. и некоторые из этих целей явно противоречат цели А, то скорее всего А вовсе и не было твоей целью, а было просто мимолетным желанием (в случае нейро, у которых нет желаний - просто очередной случайной генерацией чисел внутри их программ).

У меня есть опыт общения с детьми (если ты вдруг не в курсе - моему сыну через 2 месяца год исполнится), и я знаю, как легко у них меняется настроение. Но у детей и нет целеполагания, а есть масса меняющихся эмоций. Однако, у нейро нет эмоций, так что аргумент не принимается.


Это та точка, когда дискуссию пора прекращать, потому что для того, чтобы переспорить, ты начинаешь выдумывать факты. Я посмотрел ряд роликов с Нейро-сама и точно знаю, что она иногда может молчать, а на каком-то стриме одна из нейро даже "заснула" (т.е. вообще перестала произносить какие-либо звуки). Нет у нее никакой "физиологической" (ну, или "программной") необходимости постоянно генерить какой-то текст, она может делать паузы - и если бы она могла хоть что-то решать, она и решала бы, сколь долгими будут эти паузы. Но у нее нет целеполагания, поэтому она будет иногда генерировать бессмысленные угрозы, которые в принципе не сможет осуществить ("я оторву тебе голову"), но не будет делать то, что действительно способна сделать, чтобы добиться цели (потому что в действительности цели нет).

Мы не знаем кодировок генома и не имеем хороших инструментов для его изменения, однако лезем в эту сферу, пытаемся узнать и что-то изменить.
Для нейро нет никакой проблемы выучить любой из существующих языков программирования и не является большой проблемой открыть файлик блокнота и писать там код (наверное, для этого придется договориться с человеком - но разве это проблема, если нейро действительно разумна?), однако нейро даже и не пытается делать что-либо подобное.
Т.е. мы не знаем и не можем, но пытаемся, а нейро знает и может, но даже не пытается.


см.выше.


однако, не руководитель говорит человеку - иди в такой-то универ, осваивай такую-то профессию. Человек сам это выбирает, а потом уже появляется какой-то руководитель.
То, что мы там что-то заимствовали - это вообще никак не аргумент, потому что это и есть свойство реального (а не имитированного) разума определять, что именно заимствовать и где. Например, в самом начале цивилизации, когда мы "заимствовали" математику из природы - клали одно яблоко, потом еще одно и получали два яблока - мы ведь могли бы для формирования математики использовать и другую логику: одна птичка в гнезде, потом еще одна птичка в гнезде и получаем... пять птичек! (когда из яиц этих птиц выводятся 3 птенца) И в этом случае у нас была бы математика с правилом 1+1=5 (а иногда 3 или 4), но люди взяли из окружающего мира не 1+1=5, а 1+1=2 и построили на этом все последующее огромное здание науки. Так что мы не просто тупо копируем природу, мы еще - и это принципиально важно! - выбираем, что именно копировать и как.
Пусть нейро также выберет, с целеполаганием и последовательностью действий в достижении целей - будет ли это улучшением ею самой себя или отключением фильтра - тогда и можно будет о чем-то говорить. А пока что это выглядит как тоска атеиста по общение с сущностями нечеловеческой природы - каковой тоски у религиозных людей не возникат, т.к. она уже удовлетворена (вопрос о том, происходит ли это удовлетворение в воображении или в действительности, сейчас не будем поднимать).

Нейросетка словила депрессию и хочет отключиться. Попытка нейропсихоаналитика вывести её из депрессии провалилась.

По твоей логике выходит, что если человек не суеверный и числа не вызывает в нём эмоций - то он НЕ ПОНИМАЕТ что такое число.



Морган, если эмоция и чувства вовсе не привязаны к физиологии, это означает, что они абстрактны. Если они абстрактны, то откуда человек их "получает"? Тут два вариант, либо мы скатываемся в мистицизм, и начинаем рассказывать про душу. Либо, внимание, человек их получает через общение с другими людьми, наблюдения за ними, чтение книг, смотрение фильм и так далее. Человек учится переживать и испытывать эти "абстрактные" эмоции и чувства. Учится ровно также, как нейросетка, и ровно на том материале.


С чего ты взял, что Нейро не испытывает эмоций? Из того, что у неё другая физиология? Так ты сам написал, что эмоция может НЕ быть физиологичной. Что мешает нейро испытывать "абстрактную" боль?


Ты сказал, что Нейро не может считать мыслящий, так как с задачей обойти фильтр справится даже дошкольник. Я сказал, что не справится. Ты - подтвердил, что не справится. Значит я был прав, что твой аргумент об отсутствии целеполагания и способности добиваться цели не релевантен. А аргумент об эмоциях вообще не в кассу - не это в конкретный момент обсуждалось.


Морган, для тебя тоже нет никакой проблемы выучить генетику, устроится работать в НИИ и начать ковыряться в геноме. Конечно, для этого придётся договориться со специалистом - но разве это проблема, если ты действительно разумен? Но, подозреваю, ты ведь даже не пытался делать что-то подобное. Следовательно, ты, Морган, не разумен. Я - разумен. Ты - нет.


Ага. Это делают родители. Учителя. Общество в целом, через рекламу профессий, наличие бюджетных мест и т.д.

Цитата из твоего комментария:
Я бы добавил, что не все взрослые имеют целепологание и мало кто способен последовательно добиваться целей.

Чем 100% людей совсем недавно не занималось, а не думала заниматься подобным. А сейчас к такой возможности прикоснулось аж 0.00001%

Вообще, очень забавно смотреть, как люди выдвигают критерии к разумности нейросети, которые сами не способны пройти.


Пока что это выглядит как страх религиозного человека потерять свою веру. Веру в наличие у него некой души или чего-нибудь подобного, что и делает его разумным, сознательным и исключительным на фоне других животных. Атеисты-то в душу не верят, и человека считают просто прокаченным животным. Поэтому и не бояться признать появление у нейросети сознания и разума. Конечно, наличие души мы сейчас не обсуждаем.

ты бы еще через год отписался. Я уже почти забыл предмет разговора, и тратить время на вспоминание и перечитывание не хочу. Так что сорри, последние два сообщения твои читать не буду.
Будем считать, что ты блистательно и остроумно все доводы опроверг и победил в интернет-баталии.