Андрей Смирнов

Не может. Программер его сделал и программер определил, что он может, а что нет. Это определение касается не отдельного действия, а категории действий.


Ну подумай чуть-чуть. Представь человека, глухого от рождения и не способного даже понять, что такое звук. Более того - любая попытка осмыслить понятие звука или как-то косвенно оперировать с нотами приводит его к эпилепсии. Много этот человек музыки напишет?
С чего бы ИИ быть таким же полноценным во всем, как человек? Его никто таковым делать не будет.


Ему в программу заложат - при смене стратегии советоваться с людьми. И это лишь один из уровней защиты.


Достаточно предвидеть категории возможных багов.


Я не знаю конкретики, но навскидку предположу, что там либо злоумышленники нашли уязвимости и обрушили все (но тогда претензий к ИИ быть не должно), либо нескольких уровней проверки просто не было.

Не уедет, он же нищий.
Или в твоей вселенной все нищие давно уехали в Европу, а в диктатурах остались только олигархи?


Да хоть левых, хоть правых - контролировать содержимое роботов он не может, следовательно в любой момент, когда он перестает устраивать соседей, его убирают. При том убирают легко, без всякой мировой войны и прочего.


Убивают редко, потому что есть остальное общество. Ты же придумал мир, где общества нет, есть только олигарх и обслуга. Обслугу никто не накажет за убийство, обслуга умнее и у нее в руках ключи от жизни олигарха. При том процесс убийства безопасен: не надо проявлять себя героем, нападая на олигарха и прорываясь при этом через лояльную охрану - достаточно тихонько наклепать себе программку на компе и запустить ее. Совсем другой расклад - куда меньший риск, нет страха долговременного наказания (потому что нет общества) или страха перед законом (закона нет).


Нет, не легче: когда охранник делает что-то из ряда вон выходящее - это сразу видно, а когда программист - это мало кто поймет.
По поводу частоты проверок - реалистичный вариант это раз в неделю или в месяц, чтобы баги в головах роботах не сильно накапливались. Или вообще постоянный мониторинг состояния, как например у современного сисадмина.


Потому что ты сам только что описал силовой сценарий, где олигарх наплевал на все законы открыто и тотально. Плюс к этому - некому обеспечивать эти нормы, нет общества.

Раз не может, это не универсальный ИИ. Он тоже может быть опасен (мгновенные обвалы и другие катастрофы), но риска враждебной сингулярности нет


Это эффективнее, чем тупой и ограниченный ИИ.


Это крайне слабый и ограниченный ИИ. Более сильный и универсальный будет банально выгоднее.


Не бывает идеальной защиты (не говоря уже о оом, что конкретно эта бессмысленна - слишком много придется согласовывать). А достаточно одной уязвимости, чтобы получить апокалипсис


Пока что у нас так не получается с куда более простыми системами.


Угу.


Ну, у северных корейцев периодически получается. А там системы защиты на порядки круче и дороже, чем просто нищета


Ну, правые не будут так легко жертвовать репутацией и прибылью.

А на месте диктатора даже я представляю, как минимизировать риски - диверсификация поставщиков, условные платежи, мертвые руки и т.д. Собственно, все то же самое, что используется диктаторами в нашем мире


Общества нет или "такое сложное общество больше не нужно"?

Собственно, ты уже живёшь в стране, где есть по сути только олигархи и обслуга разных степеней приближенности. У олигархов есть свои правила, никак не связанные с "обществом". У обслуги - свои, по мере удаления от власти уподобляющиеся официальным законам и нормам. Пока интересы элит не затрагиваются, обслуга свободна делать вид, что она является обществом и принимает решения- но если вдруг кто-то в "обществе" заиграется и попробует, например, в полном соответствии с законом общества посадить олигарха... всем быстро напомнят, откуда законы растут.
Для стабильности тут просто нужна многоуровневая "игра диктатора", поэтому в правилах получается крайне мутная и непростая картинка - то, что ты удачно называл "два в уме".

И я считаю, что если заменить большую часть обслуги на более надежных и простых "роботов", просто можно создать стабильную систему с куда более простой структурой (втч банально за счёт меньшего количества обслуги и меньших трат на лояльность охраны)


Все это так же и в нашем мире. И не надо рассказывать об обществе - в диктатурах олигархи надежно стоят над ним. Проблема в том, что убийство хозяина обслугой не делает ее олигархом - и в лучшем случае убийцу будут судить по обычным законам.

Если, убив олигарха, можно было бы так легко захватить его ресурсы, убийца запросто бы откупился. Но нет, настолько беспечные элиты долго не живут.


Среди элит бытуют свои нормы, обслуге сверху спускаются свои.

И было бы удивительно, если бы создаваемые элитами и ради элит нормы были бы для них бесполезны или вредны. В России, например, все не так.

во-первых, разве это какая-то сверхцель - сделать ИИ, который одинаково хорошо будет уметь делать все?
во-вторых, люди также не универсальны. Или, другими словами, можно вполне сделать ИИ той же степени универсальности, что и человек, но при этом ряд тем для этого ИИ будет принципиально закрыт, даже в "голову" ему не придет. Тебе же не приходит в голову мысль выйти во двор, накопать ведро земли, посредством бейсбольной биты запихнуть всю эту в свой задний проход, затем обмазаться медом, обсыпаться кирпичным крошевом и скакать вниз головой 7 минут 26 секунд? По крайней мере мысли-намерения, за которой следует переход к действию, нет (я надеюсь). Но при этом ты думаешь, что твой разум вполне универсален. Ну вот и у ИИ будет также. Определенные вещи ему просто в голову не придут. А если придут, то это будет связано с очень сильной поломкой, которая вряд ли позволит ему действовать адекватно.


Вообще-то нет. Ограниченность в отдельных сферах совсем не значит тупости во всех остальных. На примере людей это особенно хорошо заметно.


Выгоднее для чего? Допустим, нам нужен ИИ для рисования картин. Зачем ему способность сочинять музыку? Наоборот, это и будет нерациональной тратой ресурсов.


Не нужно идеальной, достаточно несколько уровневой.
Конкретно эта кажется бессмысленной потому, что кто-то не увидел уточнение о смене стратегии. Менять стратегию ИИ не будет часто, разве что на первоначальном этапе - но на этом этапе с ним рядом вполне может и посидеть специалист. Затем он нащупает более-менее оптимальную стратегию выпуска скрепок и заявки на ее перемену станут все более редки.


Получается: ядерной войны все еще нет.


что "угу"? не зная конкретики, я предложил 2 возможных варианта, почему так случилось. Тебе и карты в руки - расскажи, как было на самом деле. Удиви меня.


Уже не в первый раз наблюдаю - когда у тебя кончаются аргументы и ты пишешь что-то просто для того, чтобы хоть что-нибудь написать. Типа возразил. Сбежало 1,5 корейца (15, 150, 15 тыс. - неважно). Какой ужас. Скоро Ким Чен Ын на пустые площади во время парада смотреть начнется, совсем же народу в С.Корее не останется!
Ну и что, что сколько-то сбежало? Народилось больше. Из С.Кореи бегут единицы, из РФ с ее открытыми границами - тысячи, а миллионы остаются. Не будет никогда у диктатора проблем с дешевым людским ресурсом, по крайней мере на свои диктаторские нужды. Более того - диктатору выгоднее делать свое население бедным, это укрепляет его власть.


Правые заработают себе репутацию героев, уничтоживших тирана. На прибыль случившееся никак не повлияет.


"Мертвыми руками" управляют те же роботы, так что мимо.
Для уничтожения тирана достаточно небольшой группы роботов (или даже одного), так что диверсификация не особо поможет, а вот расходы на роботов и частоту их поломок увеличит (специалисты по обслуживанию одной модели с другой моделью могут накосячить).
Что такое "условный платеж"? Можно задержать платеж, но не слишком надолго. Но ведь сюрприз будет не в первой партии. Ну да, за какую-то партию роботов фирма не получит денег от олигарха, т.к. эти роботы его прибьют, но им с лихвой эти деньги возместят выпущенные из концлагерей "оппозиционеры", которых эти роботы приведут во власть.


Олигарх + крошечная обслуга, а за пределами имения - голые степи и нефтяные трубы = общества нет.


не, есть общество. Не как активный субъект, как инертная масса по большей части, но тем не менее. Эта масса будет работать против отдельного человека (не олигарха), если он нарушит закон. В описываемом тобой случае нет общества вообще, даже как инертной массы, следовательно некому поддерживать исполнение законов.


Как и прочие проекты такого рода - построение коммунизма или воплощение в жизнь идеалов христианства - это все хорошо, пока оно в уме сферическое в вакууме. При реализации же данного плана в короткие сроки диктатор начнет повсеместно восприниматься как персонаж хуже Гитлера, его уничтожат и те, кто это сделают - будут этим гордится. Слишком уж масштабный геноцид для современного мира, на такое глаза закрывать не станут. А реализация плана постепенная, долгая - бессмыслена, потому что диктатор умрет от старости намного раньше.


Нет, не так. Обслугу накажут.

При чем тут олигарх? Общество накажет ОБСЛУГУ за убийство олигарха в нашем мире. В нашем мире, если какой-нибудь охранник пристрелит своего босса, его будут гнать и преследовать везде. А в мире, где только олигарх и обслуга - внезапно оказывается, что гнать некому, потому что больше никого и нет.


Именно: в нашем мире не делает, потому что есть общество. Инертное, тупое, но есть. В мире, где только олигарх и обслуга - обслуга занимает положение олигарха после его убийства, потому что ее некому преследовать.

Кстати, кажется неплохой вариант эксперимента по оценке возможностей эволюции. Собрать нейросеть и посмотреть, как скоро в результате случайных изменений она начнёт делать что-то полезное.

Генетические алгоритмы вроде как раз на моделировании эволюции работают.

Можно сказать, что да, такая "сверхцель" есть. Стоит как научная проблема и её с разной степенью энтузиазма, но пытаются решать.
"Мама, мы в зоопарке видели такое животное! Оно брало хвостом траву, и ты не поверишь, куда оно её себе засовывало!"
Иными словами бум ИИ случился сейчас, потому что вычислительные мощности достигли нужного порога — но работает множество алгоритмов на старом принципе перебора и пробы кучи вариантов (множество из которых будет заведомо неверными).

Вообще говоря с теми же нейросетями нет полноценного понимания, как они работают и почему оказываются так эффективны (не было несколько лет назад, когда я этим вопросом интересовался). Они просто показали хорошую эффективность, их обучают и используют без понимания.
Зависимость от техники есть. Но с одной стороны, она прогрессирует. А с другой стороны, всё больше вещей вокруг становится автоматизировано — и уязвимо с этой стороны.

Прогрессирующая отдача всего на упраление программным системам (вместо людей), нарастающие масштабы автоматизации всего — включая оружие, сложные оружейные системы — помноженная на возрастающую сложность управляющих программ и усложнение ИИ (работу которого люди понимают хуже, чем работу классических программ) — всё это выводит ИИ и исследования в этой области на один уровень с исследованиями в ядерной энергетике и ядерным оружием.
И я не помню, кто это сказал, но я верю в безграничность человеческой глупости. И в то, что преследуя какие-то свои локальные интересы, та или иная группа людей не станет ставить достаточное количество защит и проверок, создавая что-то очередное разрушительное (или тем более если они вдруг будут преследовать террористические цели).

При этом я наблюдаю на примере хотя бы Интернета Вещей (Internet of Things) то, насколько в массе человечество пренебрегает даже минимальными защитами (и тестированием критических ситуаций) в глобальной гонке за, не знаю, прибылью и успехом. Или на примере того, как безразличны люди в массе к своим данным (персональным, собираемым о них и пр.) — а следовательно безразличны и компании, которые делают девайсы, с которых сбор этих данных возможен (в широком смысле: аппаратуру, управляющие системы, прикладные программы и т.д.).

Кажется, я понял фишку.

Морган, мы не даем ИИ способность сочинять музыку или рисовать картины. Даже современные недо-ИИ вырабатывают свои способности сами, когда ты им ставишь такую задачу и даешь нужные данные.

И ИИ, способный научиться хоть музицировать, хоть управлять электростанцией — куда ценнее, чем более тупой и ограниченный. Как минимум потому, что тебе не нужно будет для решения текущих задач искать десяток специализированных ИИ-платформ (и быть нехилым PhD для их настройки и адаптации). Как максимум — чтобы быть способным к действительно хитрым решениям


Будет способен научиться.


Ирония в том, что как раз такие... странные алгоритмы — сильная сторона ИИ. И если такой список действий приведет к увеличению количества скрепок в мире — он способен к нему придти. Даже если прямо запретить копать ведро земли — может оказаться, что сгодится и песок; или что можно сгрести землю ковшом; или что землю можно купить.


Потому, что разработчики предвидели все возможные варианты, как ему думать нельзя?


Современный ИИ не перестает по чуть-чуть менять стратегии даже при статическом наборе данных. А при динамическом наборе даже оптимальная стратегия будет постоянно меняться.


Более простые системы не несут угрозы ядерной войны — но мы и их не способны достаточно качественно отбажить.


Угу, ты не знаешь конкретики.

Флеш-креш 2010:

Цитата из книги В совместном отчете SEC и CFTC за 2010 год говорится, что «6 мая начался как необычно турбулентный день для рынков» и что к полудню «в целом негативные настроения рынка уже повлияли на рост волатильности цен на некоторые отдельные ценные бумаги». В 14:32 (EDT), на «фоне необычно высокой волатильности и снижения ликвидности» в тот день крупный фундаментальный трейдер (известный как Waddell & Reed Financial Inc. [24]) »инициировал программу продаж, чтобы продать в общей сложности 75 000 контрактов E-Mini S&P (на сумму около 4,1 млрд долларов) в качестве хеджирования существующей позиции в капитале ". В отчете говорится, что это была необычно большая позиция, и что компьютерный алгоритм, который трейдер использовал для торговли этой позицией, был настроен на «целевую скорость исполнения, равную 9% от объема торгов, рассчитанного за предыдущую минуту, но без учета цены или времени ». [42] Поскольку сделки крупного продавца совершались на фьючерсном рынке, покупатели включали фирмы, которые часто торгуют на высоких скоростях - торговые фирмы, которые специализируются на высокоскоростной торговле и редко удерживают какую-либо позицию очень долго, - и в считанные минуты эти фирмы, занимающиеся высокочастотной торговлей. начали пытаться продать длинные фьючерсные контракты, которые они только что получили из взаимного фонда. [24] ... Из отчета SEC / CFTC: [42] Комбинированное давление продаж со стороны алгоритма продаж, HFT и других трейдеров привело к снижению цены E-Mini S&P 500 примерно на 3% всего за четыре минуты с начала 14:41. до конца 14:44 В то же время межрыночные арбитражеры, купившие E-Mini S&P 500, одновременно продавали эквивалентные суммы на фондовых рынках, в результате чего цена SPY (биржевой фонд, представляющий индекс S&P 500) также упала примерно на 3%. . Все еще не имея достаточного спроса со стороны фундаментальных покупателей или межрыночных арбитражеров, HFT начали быстро покупать, а затем перепродавать контракты друг другу, создавая эффект объема «горячей картошки», поскольку одни и те же позиции быстро передавались туда и обратно. Между 2:45:13 и 2:45:27 HFT торговали более 27 000 контрактов, что составляло около 49 процентов от общего объема торгов, при этом покупая лишь около 200 дополнительных контрактов... Автоматизированные компьютеризированные трейдеры на фондовом рынке сократили объем своей торговли или вообще ушли с рынков, когда обнаружили резкий рост покупок и продаж [26]. Когда компьютеризированные высокочастотные трейдеры ушли с фондового рынка, возникшая в результате нехватка ликвидности «заставила акции некоторых известных компаний, таких как Procter & Gamble и Accenture, продаваться по ценам от пенса до 100 000 долларов.

То есть по сути случилось что: началась немного нестандартная ситуация, на которую правильно в меру своего алгоритма среагировали высокочастотные трейдеры-"ИИ" (люди в HFT не работают, слишком медленные) — но они это сделали с синхронностью, просто недоступной тупым и медленным человекам, превратив рядовой заказ в "неблагоприятную" ситуацию. Другие ИИ увидели "неблагоприятную" ситуацию на рынке и тоже правильно в меру своего алгоритма решили пересидеть и отдохнуть — тоже синхронно. В результате просто неблагоприятная ситуация стала откровенно токсичной и все повалилось.

===


Я просто напоминаю о фактах, которые ты игнорируешь Нищета не мешает сваливать из страны, мешают стены.

Моя личная модель — чем больше разрыв между соседями и нищим населением внутри страны, тем больше приходится тратить на поддержку этого дисбаланса: при маленьком дисбалансе нужны невысокие стены, при большом — большие. Если соседи, условная Европа, будут продолжать расти, а твоя диктатура нет, дисбаланс тоже будет увеличиваться — поэтому тебе как диктатору придется тратить деньги либо на увеличение доходов охранников либо на более высокие стены

...при этом роботы становятся дешевле с каждым годом.


Убитый тиран ничего больше не купит. Его наследник больше ничего не купит, а то и подаст в суд за нарушение контракта. Его соседи больше ничего не купят.

Не знаю, как это может не повлиять на прибыль.


"Мертвые руки" бывают разными. Компромат, заказ на убийцу, бомбы, политические союзы... делать бесполезную мертвую руку — бесполезно. Нужно делать полезные и разные: поставщиков пугать судовыми наездами в их собственных юрисдикциях, других олигархов — нарушением производственных и финансовых цепочек, охрану — расстрелом...

Нельзя не диверсифицировать безопасность: разные роботы, разные специалисты, разные фирмы, разные аудиторы — толку с уменьшения расходов, если ты умрешь?

А на месте наследников (или пришедших к власти оппозиционеров) глупо работать с предателями.


Олигархи. Не думаю, что получится настолько все централизовать.

Какой геноцид?! Зачем?!

Все те же самые тенденции, что уже идут. Дополнение силовиков более мощными алгоритмами, замена людей на более надежные системы, уменьшение количества обслуживающего персонала, поддержка изоляции "общества" от реальной власти и доходов.

В результате население городов продолжает жить там же, где жило, но вокруг — электронный или не совсем концлагерь, да нищета. Шансов изменить систему, кроме как каким-то чудом пройдя все необходимые ступени (мобильность тоже падает) и став одним из олигархов, нет: протесты или не могут по-настоящему сформироваться (если применяется система рейтинга и мониторинга), либо разбиваются и разгоняются без особой перспективы (если говорить о роботах и технике) — собственно, Россия и Китай уже функционально туда идут.

При этом этот концлагерь даже не обязательно будет всерьез ограничивать — зачем, если опасности от населения никакой?


Вот представь, что ты убьешь или каким-то чудом посадишь какого-то олигарха. Будет ли твое будущее описываться законами общества? Нет, такой наезд накажут по совсем другим правилам.


Именно. Но не "общество", а другие олигархи и наследники убитого.


Лично мне кажется, что олигархам было бы очень глупо строить такой мир. Ну может им нравится умирать

Они и есть эволюция

А нейросети, на самом деле, еще посложнее, хотя по сути и работают на этом же самом принципе.

А на кой делать робота охранника? У каждого в башке - чип, шаг влево-вправо - парализация или. сразу смерть. При сложном случае моментом прилетает боевой дрон со спецназом и разносит все к херам. Короч что то вроде Киберпанка 2077.
Повсеместные камеры, социальный рейтинг - как в Китае, только реально тотальный. Малейшая ошибка - срезание рейтинга, упадет до нуля - разборка на органы или просто подыхай с голоду.

В общем теплый, ламповый фашизм в киберисполнении

только твой рейтинг настроят так что он будет всрат посравнению с рейтингом коли лукашенко

Х.К, тебе 15 что ли? Что за терминология активного пубертата?

в доступной форме излагаю для тех кто в шапочках из фольги

Имхо, "охрана и забить" дешевле комбинации "охрана и тоталитарная система наблюдения" при ненужной популяции. А охрана ведь нужна в любом случае - конкуренты могут действовать и "извне" рейтинга.

Но принцип, собственно, тот же. Консервация уцелевших диктатур за счёт сглаживания новыми технологиями "игры диктатора"

Ты реально считаешь, что посетители данного форума это 15-летние подростки?

Ну, ты же сам видишь, что везде все идёт к тотальному контролю А будет ли новый фашизм порождением государств, или корпораций, по сути не так важно. Что пнем об сову, что совой об пень - для совы не важно

Эти люди не существуют, но зарабатывают миллионы. Феномен виртуальных блогеров

https://tech.onliner.by/2021/02/27/feno ... x-blogerov

Цитата из книги Микела в свои 19 лет живет отличной жизнью: девушка рассказывает 3 млн подписчикам в Instagram о поездках на показы мод, будничной жизни в Лос-Анджелесе, съемках для известных брендов, записи песен. Да, она еще и поет, причем ее клипы собирают миллионы просмотров на YouTube. По свежим данным, годовой доход Микелы превышает $10 млн — о таких деньгах в 19 лет даже не все футболисты могут мечтать. Но есть одно важное обстоятельство: Микелы не существует. И, как оказалось, это совсем не мешает ей быть популярнее и состоятельнее многих реальных и очень талантливых людей.

выращивание новых зубов и эксперименты с антивеществом