Морган писал(а):
Выгоднее для чего? Допустим, нам нужен ИИ для рисования картин. Зачем ему способность сочинять музыку? Наоборот, это и будет нерациональной тратой ресурсов.
Кажется, я понял фишку.
Морган, мы не
даем ИИ способность сочинять музыку или рисовать картины. Даже современные недо-ИИ
вырабатывают свои способности сами, когда ты им ставишь такую задачу и даешь нужные данные.
И ИИ, способный
научиться хоть музицировать, хоть управлять электростанцией — куда ценнее, чем более тупой и ограниченный. Как минимум потому, что тебе не нужно будет для решения текущих задач искать десяток специализированных ИИ-платформ (и быть нехилым PhD для их настройки и адаптации). Как максимум — чтобы быть способным к действительно хитрым решениям
Морган писал(а):
во-первых, разве это какая-то сверхцель - сделать ИИ, который одинаково хорошо будет уметь делать все?
Будет способен научиться.
Морган писал(а):
во-вторых, люди также не универсальны. Или, другими словами, можно вполне сделать ИИ той же степени универсальности, что и человек, но при этом ряд тем для этого ИИ будет принципиально закрыт, даже в "голову" ему не придет. Тебе же не приходит в голову мысль выйти во двор, накопать ведро земли, посредством бейсбольной биты запихнуть всю эту в свой задний проход, затем обмазаться медом, обсыпаться кирпичным крошевом и скакать вниз головой 7 минут 26 секунд?
Ирония в том, что как раз такие... странные алгоритмы — сильная сторона ИИ. И если такой список действий приведет к увеличению количества скрепок в мире — он способен к нему придти. Даже если прямо запретить копать ведро земли — может оказаться, что сгодится и песок; или что можно сгрести землю ковшом; или что землю можно купить.
Морган писал(а):
Определенные вещи ему просто в голову не придут. А если придут, то это будет связано с очень сильной поломкой, которая вряд ли позволит ему действовать адекватно.
Потому, что разработчики предвидели все возможные варианты, как ему думать нельзя?
Морган писал(а):
Не нужно идеальной, достаточно несколько уровневой.
Конкретно эта кажется бессмысленной потому, что кто-то не увидел уточнение о смене стратегии. Менять стратегию ИИ не будет часто, разве что на первоначальном этапе - но на этом этапе с ним рядом вполне может и посидеть специалист. Затем он нащупает более-менее оптимальную стратегию выпуска скрепок и заявки на ее перемену станут все более редки.
Современный ИИ не перестает по чуть-чуть менять стратегии даже при статическом наборе данных. А при динамическом наборе даже оптимальная стратегия будет постоянно меняться.
Морган писал(а):
Получается: ядерной войны все еще нет.
Более простые системы не несут угрозы ядерной войны — но мы и их не способны достаточно качественно отбажить.
Морган писал(а):
что "угу"? не зная конкретики, я предложил 2 возможных варианта, почему так случилось. Тебе и карты в руки - расскажи, как было на самом деле. Удиви меня.
Угу, ты не знаешь конкретики.
Флеш-креш 2010:
Цитата из книги
В совместном отчете SEC и CFTC за 2010 год говорится, что «6 мая начался как необычно турбулентный день для рынков» и что к полудню «в целом негативные настроения рынка уже повлияли на рост волатильности цен на некоторые отдельные ценные бумаги». В 14:32 (EDT), на «фоне необычно высокой волатильности и снижения ликвидности» в тот день крупный фундаментальный трейдер (известный как Waddell & Reed Financial Inc. [24]) »инициировал программу продаж, чтобы продать в общей сложности 75 000 контрактов E-Mini S&P (на сумму около 4,1 млрд долларов) в качестве хеджирования существующей позиции в капитале ". В отчете говорится, что это была необычно большая позиция, и что компьютерный алгоритм, который трейдер использовал для торговли этой позицией, был настроен на «целевую скорость исполнения, равную 9% от объема торгов, рассчитанного за предыдущую минуту, но без учета цены или времени ». [42]
Поскольку сделки крупного продавца совершались на фьючерсном рынке, покупатели включали фирмы, которые часто торгуют на высоких скоростях - торговые фирмы, которые специализируются на высокоскоростной торговле и редко удерживают какую-либо позицию очень долго, - и в считанные минуты эти фирмы, занимающиеся высокочастотной торговлей. начали пытаться продать длинные фьючерсные контракты, которые они только что получили из взаимного фонда. [24] ...
Из отчета SEC / CFTC: [42]
Комбинированное давление продаж со стороны алгоритма продаж, HFT и других трейдеров привело к снижению цены E-Mini S&P 500 примерно на 3% всего за четыре минуты с начала 14:41. до конца 14:44 В то же время межрыночные арбитражеры, купившие E-Mini S&P 500, одновременно продавали эквивалентные суммы на фондовых рынках, в результате чего цена SPY (биржевой фонд, представляющий индекс S&P 500) также упала примерно на 3%. . Все еще не имея достаточного спроса со стороны фундаментальных покупателей или межрыночных арбитражеров, HFT начали быстро покупать, а затем перепродавать контракты друг другу, создавая эффект объема «горячей картошки», поскольку одни и те же позиции быстро передавались туда и обратно. Между 2:45:13 и 2:45:27 HFT торговали более 27 000 контрактов, что составляло около 49 процентов от общего объема торгов, при этом покупая лишь около 200 дополнительных контрактов...
Автоматизированные компьютеризированные трейдеры на фондовом рынке сократили объем своей торговли или вообще ушли с рынков, когда обнаружили резкий рост покупок и продаж [26]. Когда компьютеризированные высокочастотные трейдеры ушли с фондового рынка, возникшая в результате нехватка ликвидности «заставила акции некоторых известных компаний, таких как Procter & Gamble и Accenture, продаваться по ценам от пенса до 100 000 долларов.
|
То есть по сути случилось что: началась немного нестандартная ситуация, на которую
правильно в меру своего алгоритма среагировали высокочастотные трейдеры-"ИИ" (люди в HFT не работают, слишком медленные) — но они это сделали с синхронностью, просто недоступной тупым и медленным человекам, превратив рядовой заказ в "неблагоприятную" ситуацию. Другие ИИ увидели "неблагоприятную" ситуацию на рынке и тоже
правильно в меру своего алгоритма решили пересидеть и отдохнуть — тоже синхронно. В результате просто неблагоприятная ситуация стала откровенно токсичной и все повалилось.
===
Морган писал(а):
Уже не в первый раз наблюдаю - когда у тебя кончаются аргументы и ты пишешь что-то просто для того, чтобы хоть что-нибудь написать. Типа возразил. Сбежало 1,5 корейца (15, 150, 15 тыс. - неважно). Какой ужас. Скоро Ким Чен Ын на пустые площади во время парада смотреть начнется, совсем же народу в С.Корее не останется!
Ну и что, что сколько-то сбежало? Народилось больше. Из С.Кореи бегут единицы, из РФ с ее открытыми границами - тысячи, а миллионы остаются. Не будет никогда у диктатора проблем с дешевым людским ресурсом, по крайней мере на свои диктаторские нужды. Более того - диктатору выгоднее делать свое население бедным, это укрепляет его власть.
Я просто напоминаю о фактах, которые ты игнорируешь
Нищета не мешает сваливать из страны, мешают стены.
Моя личная модель — чем больше разрыв между соседями и нищим населением внутри страны, тем больше приходится тратить на поддержку этого дисбаланса: при маленьком дисбалансе нужны невысокие стены, при большом — большие. Если соседи, условная Европа, будут продолжать расти, а твоя диктатура нет, дисбаланс тоже будет увеличиваться — поэтому тебе как диктатору придется тратить деньги либо на увеличение доходов охранников либо на более высокие стены
...при этом роботы становятся дешевле с каждым годом.
Морган писал(а):
Правые заработают себе репутацию героев, уничтоживших тирана. На прибыль случившееся никак не повлияет.
Убитый тиран ничего больше не купит. Его наследник больше ничего не купит, а то и подаст в суд за нарушение контракта. Его соседи больше ничего не купят.
Не знаю, как это может не повлиять на прибыль.
Морган писал(а):
"Мертвыми руками" управляют те же роботы, так что мимо.
Для уничтожения тирана достаточно небольшой группы роботов (или даже одного), так что диверсификация не особо поможет, а вот расходы на роботов и частоту их поломок увеличит (специалисты по обслуживанию одной модели с другой моделью могут накосячить).
Что такое "условный платеж"? Можно задержать платеж, но не слишком надолго. Но ведь сюрприз будет не в первой партии. Ну да, за какую-то партию роботов фирма не получит денег от олигарха, т.к. эти роботы его прибьют, но им с лихвой эти деньги возместят выпущенные из концлагерей "оппозиционеры", которых эти роботы приведут во власть.
"Мертвые руки" бывают разными. Компромат, заказ на убийцу, бомбы, политические союзы... делать бесполезную мертвую руку — бесполезно. Нужно делать полезные и разные: поставщиков пугать судовыми наездами в их собственных юрисдикциях, других олигархов — нарушением производственных и финансовых цепочек, охрану — расстрелом...
Нельзя не диверсифицировать безопасность: разные роботы, разные специалисты, разные фирмы, разные аудиторы — толку с уменьшения расходов, если ты умрешь?
А на месте наследников (или пришедших к власти оппозиционеров) глупо работать с предателями.
Морган писал(а):
Олигарх + крошечная обслуга, а за пределами имения - голые степи и нефтяные трубы = общества нет.
Олигарх
и. Не думаю, что получится настолько все централизовать.
Морган писал(а):
Как и прочие проекты такого рода - построение коммунизма или воплощение в жизнь идеалов христианства - это все хорошо, пока оно в уме сферическое в вакууме. При реализации же данного плана в короткие сроки диктатор начнет повсеместно восприниматься как персонаж хуже Гитлера, его уничтожат и те, кто это сделают - будут этим гордится. Слишком уж масштабный геноцид для современного мира, на такое глаза закрывать не станут. А реализация плана постепенная, долгая - бессмыслена, потому что диктатор умрет от старости намного раньше.
Какой геноцид?! Зачем?!
Все те же самые тенденции, что уже идут. Дополнение силовиков более мощными алгоритмами, замена людей на более надежные системы, уменьшение количества обслуживающего персонала, поддержка изоляции "общества" от реальной власти и доходов.
В результате население городов продолжает жить там же, где жило, но вокруг — электронный или не совсем концлагерь, да нищета. Шансов изменить систему, кроме как каким-то чудом пройдя все необходимые ступени (мобильность тоже падает) и став одним из олигархов, нет: протесты или не могут по-настоящему сформироваться (если применяется система рейтинга и мониторинга), либо разбиваются и разгоняются без особой перспективы (если говорить о роботах и технике) — собственно, Россия и Китай уже функционально туда идут.
При этом этот концлагерь даже не обязательно будет всерьез ограничивать — зачем, если опасности от населения никакой?
Морган писал(а):
не, есть общество. Не как активный субъект, как инертная масса по большей части, но тем не менее. Эта масса будет работать против отдельного человека (не олигарха), если он нарушит закон. В описываемом тобой случае нет общества вообще, даже как инертной массы, следовательно некому поддерживать исполнение законов.
Вот представь, что ты убьешь или каким-то чудом посадишь какого-то олигарха. Будет ли твое будущее описываться законами общества?
Нет, такой наезд накажут по совсем другим правилам.
Морган писал(а):
При чем тут олигарх? Общество накажет ОБСЛУГУ за убийство олигарха в нашем мире. В нашем мире, если какой-нибудь охранник пристрелит своего босса, его будут гнать и преследовать везде.
Именно. Но не "общество", а другие олигархи и наследники убитого.
Морган писал(а):
Именно: в нашем мире не делает, потому что есть общество. Инертное, тупое, но есть. В мире, где только олигарх и обслуга - обслуга занимает положение олигарха после его убийства, потому что ее некому преследовать.
Лично мне кажется, что олигархам было бы очень глупо строить такой мир. Ну может им нравится умирать