Флейм про определяющую роль искусственного интеллекта

pkl> .....Поэтому повторю ещё раз: микроэлектроника сейчас важнее атомной бомбы.
Этому выводу примерно 50 лет, уже тогда стало понятно, но СССР всегда был догоняющим, а современная Россия вообще отстала. А вот сейчас уже дела пошли в финальной этап - уже имеем реальную гонку за AGI и ASI. Причем если несколько лет отставания в атомную гонку фатальными в принципе небыли, то сейчас гонка для достижения и использования ASI имеет период нефатальности намного меньше, возможно считанные месяцы или даже всего лишь недели.

intoxicated> уже имеем реальную гонку за AGI и ASI.

ИМХО, бред.
Но то, что появляется новое железо для работы мщных нейронок на борту - это факт.

pkl>то сейчас гонка для достижения и использования ASI имеет период нефатальности намного меньше, возможно считанные месяцы или даже всего лишь недели.

Это можно на человеческий язык перевести? А то пока что ты случайно Интернет.

Sandro> Это можно на человеческий язык перевести?

AGI - Artificial General Intelligence;
ASI - Artificial Super Intelligence.

intoxicated>>то сейчас гонка для достижения и использования ASI имеет период нефатальности намного меньше, возможно считанные месяцы или даже всего лишь недели.
Sandro> Это можно на человеческий язык перевести? А то пока что ты случайно Интернет.
Из за очень сложной и предельно специфической для 40-х-50-х годов технологической цепочки производства и развертывания ЯО, также из за его чисто ТТХ и особенностей сего периода (и его носителей), выигрыш гонки на атомную бомбу в нескольких лет (к примеру 1945 vs 1949) небыл фатальным в плане экзистенциальной угрозой для СССР. Тоесть период нефатальности отставания в невоенном времени для ЯО составил к 4-5 лет. Замечаем что в военное время по отношении Германии (фашисткой образца 1939г) или Японии этот период нефатальности был бы гораздо меньше, скорее всего где то не больше пол года. После чего достичь паритет становится невозвожным из за чрезмерного отставания и сокрушительного превосходства врага. Однако в плане достижения Artificial Super Intelligence такой (аналогичный) период нефатальности ИМХО намного меньше, сторона которая сумеет изобрести и внедрить в своей пользы ASI будет иметь круто нарастающее превосходство, период может быть считанные месяцы, или недели, или даже дни.

В.с.с.О.> AGI - Artificial General Intelligence;
В.с.с.О.> ASI - Artificial Super Intelligence.

Нет и не будет в ближайшем времени. По причине появления такого уродца, как нейросетки. Сейчас денег дают только на него, а нормальным направлениям — шиш.

Sandro> Нет и не будет в ближайшем времени. По причине появления такого уродца, как нейросетки. Сейчас денег дают только на него, а нормальным направлениям — шиш.

Нейросети приемлимы для многих прикладных задач.

Кстати, что за "нормальные направления"?

В.с.с.О.> Нейросети приемлимы для многих прикладных задач.

Для многих, но это тупик. Всего лишь ассоциативная машина. Она не мыслит — нечем. Таракану вставили 100 трлн нейронов. Да, у него стали более богатые ассоциации. И что?

В.с.с.О.> Кстати, что за "нормальные направления"?

Не являющиеся нейротупиком.

Sandro> Для многих, но это тупик.

Вопрос в том, что считать "не-тупиком". А то т.н. AGI приписывают возможность скачкообразного перерождения в ASI, а последнему приписывают буквально божественные способности (причём ещё со времён Тьюринга).

Где именно эта "тупиковость" будет выражаться?
Где именно это "НЕ-тупиковость" будет выражаться?

Sandro> Всего лишь ассоциативная машина.

Логическая индукция же.

И да, пока это самый лучший переварить большие массивы данных, особенно "общего характера". Тот самый Common sense knowledge, которое долгое время был краеугольным камнем всего ИИ во времена до зимы ИИ.

И этот Common sense knowledge так и не научились извлекать из "сырых данных", вроде того, что можно просто из Интернета накачать.

Sandro> Она не мыслит — нечем.

Вопрос в том, что считать мышлением. Если мышлением считать то, что под ним имели ввиду в 60-х, т.е. символьные операции, то этот подход имеет ряд нереалистичных допущений и наверняка и не имеет никакого отношения к человеку или любому практически возможному объекту.

А у какого-нибудь бихевиоризма вообще проблема "а что есть мышление?" так остро не стоит.

Sandro> Таракану вставили 100 трлн нейронов. Да, у него стали более богатые ассоциации. И что?

У какого-то куска мяса (человека) овердофига нейронов. Ну да, у него стали более богатые хим реакции в голове, и что?

В.с.с.О.>> Кстати, что за "нормальные направления"?
Sandro> Не являющиеся нейротупиком.

Лично мне нравится т.н. Behavioral Approach to Robotics. Но этот подход не исключает использования нейронок.

Sandro>> Она не мыслит — нечем.
В.с.с.О.> Вопрос в том, что считать мышлением. Если мышлением считать то, что под ним имели ввиду в 60-х, т.е. символьные операции, то этот подход имеет ряд нереалистичных допущений и наверняка и не имеет никакого отношения к человеку или любому практически возможному объекту.

Тут проблема в том, что это микшер. Просто смешивают картинки или текст со схожими критериями. Многие текстовые чатгпт даже не учатся на прошлых вопросах, что было краеугольным камнем искуственого интеллекта с 60х годов. Я помню тексты в книгах тех лет когда программа возражала. Вы же только что говорили другое? Да сейчас есть и такие программы, но большая часть игнорирует. Так как основана на других принципах.

Всегда технологии были двух типов. Первые замещали прошлые технологии, вторые давали новый уровень. Современные популярные нейросети это первый тип. Да. Заменили людей. Так и раньше машины заменяли людей. Даже бунты были.

Если интересно мое мнение про развитие, то...

Но вот наш мозг может даже по одной картинке представить, что было в объеме. Отчасти из-за чего так плохо взлетают стереотехнологии. Они просто избыточны.

Прорыв будет если ИИ сможет по картинке восстанавливать объем. Тогда после запроса она будет не просто смотреть какими весами обладают элементы других картинок по подобному запросу, а будет восстанавливать, что на них было изображено, уже делать среднее из этого и по ним синтезировать изображение. С дополнительными функциями. Например сможет и поворачивать людей и объекты на фото.

Причем даже такой ИИ не сможет захватить мир. Опять микшер но на более качественном уровне. Но с текущего ИИ до такого путь пока очень долгий.

PSS> Тут проблема в том, что это микшер. Просто смешивают картинки или текст со схожими критериями. Многие текстовые чатгпт даже не учатся на прошлых вопросах, что было краеугольным камнем искуственого интеллекта с 60х годов. Я помню тексты в книгах тех лет когда программа возражала. Вы же только что говорили другое? Да сейчас есть и такие программы, но большая часть игнорирует. Так как основана на других принципах.

В те годы, чтобы программа хотя бы могла составлять простые предложения, для неё нужно было подбирать специальные и кастомно созданные эвристики для грамматического анализа языка. И ещё повезло, что английский в этом плане довольно прост, и то, было много казусов, типа schools (with children) & schools (of fish) и прочие неоднозначности. Ну и обучение на "прошлых вопросах" тоже было ограничено. Чтобы не быть голословным, посмотрите на SHDRLU. Специальная БД для грамматики английского, специальная БД для хранений данных "о мире блоков" (мир-блоков - простая модель мира, в которой бот "живёт и мыслит"). И SHDRLU мог учиться, узнавать новые конструкции из блоков и т.п., но вот это обучение было ограничено: любое слово, которого не было в словаре (на 50 слов) вызывало ошибку "я не знаю такого слова", и любое объяснение этого слова могло быть интерпретировано лишь как конструкция из блоков. В теории это решаемые проблемы, на практике все решения получаются слишком трудоёмкими в создании и дебаге, слишком требовательные к компьютерному железу и почти не распараллеливаются/распараллеливаются плохо.

В теории символьного ИИ вместо "просто микшера" у нас "просто машина для операций над символами". Как бы в том и идея ИИ, чтобы свести всё это мышление^тм к "просто механике", будь то микшеры или калькуляторы.

Сейчас хорошая LLMка спокойно может учитывать и предыдущие сообщения, и ими можно неплохо рулить системным промптом. Если кастомную БД, написанную на обычном тексте засунуть в промпт, да ещё и нейросеть зафайнтюнить, то вообще топ будет.

PSS> Прорыв будет если ИИ сможет по картинке восстанавливать объем.
PSS> Тогда после запроса она будет не просто смотреть какими весами обладают элементы других картинок по подобному запросу, а будет восстанавливать, что на них было изображено, уже делать среднее из этого и по ним синтезировать изображение. С дополнительными функциями. Например сможет и поворачивать людей и объекты на фото.

Есть ControlNet для Stable Diffusion, он позволяет построить карту нормалей и глубины, в том числе с дополнительными функциями, вроде поворота людей и объектов на фото

Ну и сейчас уже всё идёт не просто к повороту людей на фото, а к генерации (недолгих) видео и гифок.

PSS> Причем даже такой ИИ не сможет захватить мир. Опять микшер но на более качественном уровне. Но с текущего ИИ до такого путь пока очень долгий.

Я вообще считаю идею "ИИ захватит мир" и прочие "сильные ИИ планируют страшные вещи, потому что у них велосипеда allignment'а нет!" чепухой. Вообще все эти идеи про захват мира идут от этих идей "необходимости планировать всё", которые должны привести к "необходимости порабощения". Но на деле планирование - вещь сомнительной ценности, которая стоит слишком дорого и толком ничего не даёт. Реактивные системы, вроде нейросетей и behavioral robotics дают больший практический и коммерческий вход.

Факт фактом: классические подходы с планированием и логикой гораздо менее реализуемы на практике, чем нейросети, а практика - критерий истины.

Рекомендую прочитать What computers can't do; a critique of artificial reason и Artificial Intelligence: the very idea.

intoxicated>> уже имеем реальную гонку за AGI и ASI.
В.с.с.О.> ИМХО, бред.
В.с.с.О.> Но то, что появляется новое железо для работы мщных нейронок на борту - это факт.
Почему бред? Это будет ключевая технология поля боя.

pkl>>то сейчас гонка для достижения и использования ASI имеет период нефатальности намного меньше, возможно считанные месяцы или даже всего лишь недели.
Sandro> Это можно на человеческий язык перевести? А то пока что ты случайно Интернет.
Ммм... по правде говоря, не я это писал. Но, насколько я могу понять, человек хотел сказать, что сейчас гонка в области искусственного интеллекта и тот, кто опоздал на месяцы, а может, и недели, тот отстал навсегда.

intoxicated> Однако в плане достижения Artificial Super Intelligence такой (аналогичный) период нефатальности ИМХО намного меньше, сторона которая сумеет изобрести и внедрить в своей пользы ASI будет иметь круто нарастающее превосходство, период может быть считанные месяцы, или недели, или даже дни.
Не уверен, что это так: всегда можно попытаться превзойти качество дешёвым количеством.

pkl> Не уверен, что это так: всегда можно попытаться превзойти качество дешёвым количеством.
В отношение AGI/ASI качество такое особое что превзойти его количеством нельзя. Кстати ситуация когда уже существует AGI будет довольно непродолжительная, так как наличие AGI ведет к быстрому рекурентному появлению ASI. Поэтому и период фатального опоздания может быть очень коротким. Насчет качество-количество - можно посмотреть на микропроцессорные технологии которые на сей момент применяются на существующих моделях ИИ - это и качественная сторона вопроса (техпроцессы в единицы нанометров и десятки миллиардов транзисторов на одной ИС) и количество (сотни тысяч GPU с такими ИС). Пока еще существующие модели ИИ (они самые разные) лишь иммитируют AGI. Случись прорыв и события будут происходить лавинообразно.

В.с.с.О.>> Нейросети приемлимы для многих прикладных задач.
Sandro> Для многих, но это тупик. Всего лишь ассоциативная машина.
А ты мыслишь?
Ты ж такая же ассоциативная машина.

В нейросети достаточно сделать несколько рекуррентных связей, и вот ассоциативная машина превращается в машину, которая умеет понимать речь, реагировать, строить планы и реализовывать их.
Да, пока простенькие. Но вопрос времени.

В.с.с.О.>> Кстати, что за "нормальные направления"?
Sandro> Не являющиеся нейротупиком.
Ты неверно представляешь себе современные нейросети, КМК. Персептроны были примитивны. Но даже простые БЯМ - уже далеко не так просты (именно по принципу действия, понятно, что нейронов-то можно набить битком). Ты в курсе, что в принципе рекуррентная нейросеть может быть тюринг-полной машиной, например?

PSS> Тут проблема в том, что это микшер. Просто смешивают картинки или текст со схожими критериями. Многие текстовые чатгпт даже не учатся на прошлых вопросах, что было краеугольным камнем искуственого интеллекта с 60х годов. Я помню тексты в книгах тех лет когда программа возражала. Вы же только что говорили другое? Да сейчас есть и такие программы, но большая часть игнорирует. Так как основана на других принципах.
Вы смотрите на внешние проявления. В принципе, программу, "которая возражает", можно составить в две строки на Бейсике: input и print. Это же неважно.

Современные сети-трансформеры, на основе которых лепятся БЯМ, дают качественно новый уровень.

Более того, вполне понятно, как на этой основе сделать "настоящий" ИИ, с планировщиком задач: простым генетическим отбором на выполнении неких действий в симуляции, например. Без участия человека. Вопрос доступной вычмощи.

PSS> Прорыв будет если ИИ сможет по картинке восстанавливать объем.
Остаётся лишь улыбнуться малости желаний.
Это уже есть.

Я, кстати, приводил видео с действиями FigureOne.

pkl>Почему бред?

Ну хотя бы потому, что им приписывают буквально БОЖЕСТВЕННЫЕ способности, вроде возможности уничтожить человечество как нефиг делать.

pkl>Это будет ключевая технология поля боя.

Нет, это чисто фантастическая вещь.

intoxicated> В отношение AGI/ASI качество такое особое что превзойти его количеством нельзя.

Знаешь, эти попытки продать некую гипотетическую компьютерную программу как суперрешение всех проблем напоминает мне старый анекдот про сову-стратега и мышей.

Ну что он ГИПОТЕТИЧЕСКИ сможет сделать, вот серьёзно?

Татарин> Более того, вполне понятно, как на этой основе сделать "настоящий" ИИ, с планировщиком задач: простым генетическим отбором на выполнении неких действий в симуляции, например. Без участия человека. Вопрос доступной вычмощи.

Не, там на практике 100500 нюансов вылезает, в симуляции всё фиг отработаешь. Ну и методы "отработки" ситуации в симуляции часто подразумевают 100500 попыток на простые действия, а в реале для новых ситуаций этого часто нет. Ну и даже если ты сможешь создать симуляцию новой задачи, то как ты будешь оценивать её успех без участия человека и т.п..

Вопросов много, и вычислительная мощь там далеко не первая проблема.

В.с.с.О.>>> Нейросети приемлимы для многих прикладных задач.
Sandro>> Для многих, но это тупик. Всего лишь ассоциативная машина.
Татарин> А ты мыслишь?
Татарин> Ты ж такая же ассоциативная машина.

Тут я могу только применить аргумент Декарта. Я осознаю себя, поэтому я мыслю.

Осознаёт ли себя сетка? Ой, нынешние — точно нет.

Очень показательно, как в нынешние сетки пытаются встроить блокировку генерации эротических изображений ... и неудачно.
Если бы сеть мыслила — ей было бы достаточно отдать приказ не генерировать обнажёнку, но не выходит каменный цветок. Вчера игрался с Kandinsky 3.1 — пару полуголых девиц получилось стребовать, несмотря на постцензор.

Мыслящий субъект просто не стал бы исполнять запрещённый приказ.

Татарин> В нейросети достаточно сделать несколько рекуррентных связей, и вот ассоциативная машина превращается в машину, которая умеет понимать речь, реагировать, строить планы и реализовывать их.

Нет. Увы, нет. Хэш-карта стратегий не является разумом.

Sandro>> Не являющиеся нейротупиком.
Татарин> Ты неверно представляешь себе современные нейросети, КМК. Персептроны были примитивны. Но даже простые БЯМ - уже далеко не так просты (именно по принципу действия, понятно, что нейронов-то можно набить битком).

А я как раз думаю, что верно. От итеративного применения хэш-функции ума не прибавляется. Сетка принципиально не может заниматься исследованием пространства решений, вот о чём я.
Я о системном говорю. Обычный карась может, а вот сетка — нет. Ей нужен внешний модуль, который будет перестраивать веса принудительно.

Татарин> Ты в курсе, что в принципе рекуррентная нейросеть может быть тюринг-полной машиной, например?

Да в курсе, естественно. Полную по Тьюригу машину можно построить из верёвок, палок и вёдер с водой. Ну и что?

Sandro> Если бы сеть мыслила — ей было бы достаточно отдать приказ не генерировать обнажёнку
С фига ли? Это же просто увеличение контекста.
Мышление тут вообще не обязательно.

Как необязательно для вождения машины, наведения пулемёта или рисования картинок по словесному описанию.
И чисто логически продолжая: нейросетка сейчас без всякого мышления проектирует микропроцессоры быстрее и качественнее, чем любой человек, рисует картинки качественнее и быстрее, чем средний человек... какие есть основания думать, что другие вещи - например ведение боевых действий - она не сможет делать "не мысля"?

Sandro> А я как раз думаю, что верно. От итеративного применения хэш-функции ума не прибавляется. Сетка принципиально не может заниматься исследованием пространства решений, вот о чём я.
Почему?

Sandro>> Если бы сеть мыслила — ей было бы достаточно отдать приказ не генерировать обнажёнку
Татарин> С фига ли? Это же просто увеличение контекста.

А, не Девид Блейн, не.

Какого контекста?
Девиц в купальниках она генерирует без вопросов. Девиц без — тоже, но срабатывает автоцензор. И выдаёт ромашки крупным планом вместо запрошенной картинки.

Что тут такое "увеличение контекста"? Зачем надо было навешивать дополнительный модуль цензуры?

Татарин> Мышление тут вообще не обязательно.
Татарин> Как необязательно для вождения машины, наведения пулемёта или рисования картинок по словесному описанию.

Не обязательно. Но тезис не ясен.

Татарин> И чисто логически продолжая: нейросетка сейчас без всякого мышления проектирует микропроцессоры быстрее и качественнее, чем любой человек,

Нет. Сетка не сделала ни одного рабочего процнессора.

Татарин> рисует картинки качественнее и быстрее, чем средний человек...

Да, с рисованием неплохо вышло.

Татарин> какие есть основания думать, что другие вещи - например ведение боевых действий - она не сможет делать "не мысля"?

Ну сможет. ИИ в играх вообще тупой, но справляется же. Но опять же, не про сетки это. А про размер БД, сетка — не единственный способ обработки.

Sandro>> А я как раз думаю, что верно. От итеративного применения хэш-функции ума не прибавляется. Сетка принципиально не может заниматься исследованием пространства решений, вот о чём я.
Татарин> Почему?

Потому, что матрица прибита гвоздями. И изменение поведения требует "переобучения", то есть передрессировки, если называть вещи своими именами.

Очень показательно, что до сих пор нет игр с сеточным ИИ. А вот ИИ на уровне правил — да хоть на тот же Скайрим посмотри, больше 10 лет ему уже.

Sandro> Очень показательно, что до сих пор нет игр с сеточным ИИ. ...
Есть. Ворлдофтанкс, например. Ну, роботы довольно тупые, но крови попить могут.

pokos> Есть. Ворлдофтанкс, например. Ну, роботы довольно тупые, но крови попить могут.
Разве?
Я уже упоминал, что игры - это наилучший полигон для опробования ИИ. Но пока это все алгоритмы, основанные на том, что движок игры имеет всю полноту информации о состоянии системы.

С другой стороны, воздыхания насчет того, что вместо ИИ мы получили компилятивный инструмент на нейросетях, мимо кассы. ИМХО, это просто один из этапов развития.