Skip to content

АНОНС

Открылся   YouTube канал Тубсааны 

Великий техно-перелом 2020 г. От техно-оптимизма к прагматизации ИИ.


 

11 января 2021 г.

 

Взгляд на 2020-й из будущего

Bозможно, лет через тридцать в Википедии будут писать о 2020-ом годе не только в связи с началом пандемии COVID-19. Ведь даже страшнейшая пандемия Испанки не затмила в истории 1918 года окончание Первой мировой и развертывание Гражданской войны в России, революцию в Германии, уничтожившую Германскую империю, и еще около дюжины событий, так или иначе повлиявших на судьбы миллионов людей и имевших последствия в течение десятилетий.

Но пока 2020 не отдалился на ощутимую историческую дистанцию, анализ его важнейших событий субъективен, близорук и отягощен когнитивными искажениями. Сегодняшние западные аналитики, среди важнейших мировых событий прошедшего года, помимо COVID-19, называют, например, смену Трампа Байденом, массовые волнения в США и «самоутверждение Китая» на пути к мировому лидерству. А российские — следом за пандемией, ставят «обнуление» (в комплекте с изменением конституции) и отравление Навального. Все это, конечно же, очень важно.

Но сохранится ли такая оценка 2020–го года лет через тридцать?

Точного ответа на этот вопрос не знает никто. Но лично мне видится, что в большинстве современных оценок упускается нечто совсем неочевидное, но крайне важное. Важное в том смысле, что повлияет на будущее человечества куда больше, чем смена Трампа на Байдена или «обнуление».

Дело в том, что политическое и социальное устройство общества, мировоззрение, благосостояние, физическое и духовное здоровье, да и повседневная жизнь людей в XXI веке, более всего определяются уже не политикой, религией, идеологией или классовой борьбой, а развитием технологий. И в первую очередь, — информационных, ибо именно они кардинально меняет жизнь новых поколений, уже не знающих, что такое дефицит еды и тепла.

А среди информационных технологий есть, несомненно, лидирующая группа, условно называемая искусственный интеллект (ИИ). Именно ИИ, если воспользоваться метафорическим образом гонок на собаках из любимых мною повестей Джека Лондона, является коренником упряжки современных информационных технологий. Как ни важны действия других «собак» в упряжке (технологии больших данных, облачные вычисления, мобильные технологии и т.д.), но коренник ИИ решающим образом влияет на направление и маневры всей упряжки, в наибольшей мере влияя на результат гонки.

И если посмотреть на 2020 из будущего с точки зрения мировой гонки «технологических упряжек», то вполне возможно,

2020 окажется в истории «годом великого техно-перелома», давшего отсчет новой технологической эпохе, когда на смену техно-оптимизму приходит прагматизация ИИ.

«Эпоха техно-оптимизма ИИ» продолжалась более 60 лет примерно с середины 1950-х годов прошлого века, когда Уоррен МакКаллох и Уолтер Питтс построили в MIT первые сети искусственных нейронов, Джон Маккарти и Марвин Мински придумали термин ИИ и структурировали изучение новой дисциплину в рамках созданной ими «AI Group», а Ноам Хомски революционизировал лингвистику, рассматривая язык (ключевой фактор в понимании интеллекта), как вычислительное, а не чисто культурное явление (подробней см. [1]). Эта эпоха вместила в себя семь довольно непохожих периодов:

Рождение ИИ (1952–1956)

Золотые времена ранних энтузиастов (1956–1974)

1-я ИИ зима (1974–1980)

Бум ИИ (1980–1987)

2-я ИИ зима (1987–1993)

Первые примеры превосходства ИИ над людьми: шахматы, умные гаджеты, рекомендательные системы и т.д. (1993–2012)

Эра глубокого обучения (2012–2020)

Коллаж на основе рисунка из https://www.mdpi.com/2076-3417/8/3/379

Были среди периодов «эпохи техно-оптимизма ИИ» времена подъема (1–2,4, 6–7) и времена стагнации (3 и 5). Но главные цели эпохи оставалась (или, как минимум, декларировались) неизменными, с тех пор, как их сформулировали отцы-основатели ИИ в середине 1950-х.

️ Понять, что такое и как работает интеллект?

️ Определить механизм в основе познавательных способностей мозга?

️ Выяснить, можно ли и то, и другое реализовать в компьютере, чтобы создать искусственный интеллект, сначала сравнимый с человеческим (т.н. «сильный ИИ»), а потом и превосходящий его (наступление т.н. «машинного превосходства»).

Эта неизменность целей составляла суть эпохи техно-оптимизма.

Люди постигнут устройство человеческого интеллекта и создадут ИИ, способный мыслить на уровне человека (т.н. «общий ИИ» или AGI)

Шли годы. Постепенно сдвигались прогнозы сроков предполагаемого создания «общего ИИ». За 60 лет эпохи техно-оптимизма вилка прогнозов экспертов по степени их техно-оптимизма достигла 130 лет: с 1970-х годов до 2100-х (подробней см. [2]).

Прогнозы сроков создания “общего ИИ”, сделанные с 1950 по 2015 гг. Вертикальная ось — прогноз сроков создания. Горизонтальная ось — дата прогноза. Источник [2]

И хотя главные стратегические цели исследований и разработок ИИ декларировались всё теми же, но доля техно-оптимистов среди экспертов, прогнозирующих создание «общего ИИ» в обозримом будущем постоянно снижалась:

в 2012/2013 гг. 90% опрошенных считали, что AGI будет создан до 2075 года [3];

в 2018 уже 21% опрошенных высказали мнение, что AGI не будет создан никогда [4].

Ну а к 2020 году «эпоху техно-оптимизма ИИ» уже можно было охарактеризовать определением, данным Алексеем Юрчаком для позднего СССР.

«Это было навсегда, пока не кончилось».

Поворотные моменты техно-эпох

Смена эпох в науке происходит при смене научных парадигм: например, смена представлений о мире при переходе от геоцентрической к гелиоцентрической системе или при переходе от ньютоновской физики к теории относительности.

Подобным же образом сменяются и техно-эпохи, меняющие не столько мировоззренческие взгляды миллионов людей, сколько организацию их жизни в широком диапазоне аспектов: от политической и социальной до бытовой и духовной жизни.

Поворотными моментами, знаменующими начало смены техно-эпох (когда незначительные изменения приводят к глобальным переменам) являются некие события, подчас мало заметные для современников, но после которых меняются вектор и продуктивность развития определенной группы технологий.

История технологий знает много примеров таких поворотных моментов. В большинстве своем, это было не само изобретение технологии, а прохождение некой условной «стрелки», подобной железнодорожной стрелке, после прохождения которой дальнейший путь поезда однозначно ведет в пункт А, а не в пункт Б, В или Г (из этого следует и второй смысл поворотного момента — точна невозврата).

Вот пара примеров таких поворотных моментов в смене техно-эпох: первый из истории ХХ-го, второй — ХХI века.

  1. Поворотным моментом перехода к новой техно-эпохе, кардинально изменившей представления людей о физических размерах мира, стало создание в 1914 году первой авиакомпании St. Petersburg Tampa Airboat Line, самолёты которой летали по расписанию.

После этого поворотного момента было много еще чего важного:

от достижения 1-го миллиона пассажиров, перевезенных в 1934 году авиакомпанией DeutscheLufthansa,

до беспрецедентно быстрого распространения самолетами по миру пандемии COVID-19 в 2020-ом.

Но и то, и другое оказалось возможным лишь, как следствие поворотного момента, произошедшего в 1914 году.

  1. Поворотным моментом к новой техно-эпохе, кардинально изменившей представления людей об информационном устройстве мира (при коммуникации, потреблении информации, получении информационных услуг, обучении и развлечениях), стало начало продаж Apple iPhone в 2007 году. К тому времени всевозможные предшественники этого устройства продавались уже 15 лет, а доля iPhone среди проданных в 2007 смартфонов, составила всего около 1%. Но лишь после поворотного момента выхода на рынок iPhone в 2007 году, техно-эпоха мобильных устройств связи(пейджеры, сотовые телефоны, коммуникаторы и смартфоны) начала трансформацию в техно-эпоху «информационных протезов»человека. Именно в них в итоге превратились всевозможные мобильные гаджеты связи, ставшие для людей искусственными заменителями памяти, многих когнитивных навыков и даже самой возможности обучаться.

Год великого техно-перелома

2020-й год ознаменовался поворотным моментом в развитии «коренника упряжки современных информационных технологий» — группы технологий, условно называемых ИИ. Сверхважность этой группы технологий определяется тремя её особенностями:

(1) широчайший спектр областей применения — это группа горизонтальных технологий, применимых практически в любой деятельности;

(2) колоссальный прорывной потенциал — ожидаемая экономическая отдача при внедрении технологий этой группы беспрецедентна;

(3) огромный трансформационный потенциал, меняющий структуру, организацию и методы ведения деятельности в большинстве отраслей экономики, образования и медицины.

Как это всегда бывает с поворотными моментами, знаменующими начало смены техно-эпох: они очевидны, при взгляде из будущего, но крайне сложно идентифицируемы в моменты времени, когда они происходят.

Весьма сомнительно, что кто-то в 1914 году уловил начало глобального процесса радикального уменьшения физических размеров мира для каждого отдельного человека и всего человечества.

Вряд ли кто-то (разве что гениальный Стив Джобс) мог представить в 2007, что это не просто начало продаж нового, хоть и весьма перспективного смартфона, а поворотный момент в смене представлений людей об информационном устройстве мира, жить в котором без смартфона, всего через 13 лет, станет не менее дискомфортно, чем без руки или глаза.

Аналогичная ситуация происходит и сейчас с анализом итогов 2020 года, публикуемом даже лучшими экспертами в области ИИ. Возьмем в качестве примера вышедший 1-го января анализ итогов развития ИИ в 2020 одного из признанных визионеров в этой области Родни Брукса [5].

«Через тридцать лет мы, вероятно, не будем говорить в позитивном ключе “помните о достижениях ИИ/МО (машинного обучения) в 2020 году!”. Ибо 2020-й смешается и станет неотличимым от многих соседних лет»

Что же до прогноза Брукса дальнейшего развития ИИ технологий до 2050 гг., то и в нем, казалось бы, никакими прорывами (и уж, тем более, «великим техно-переломом») даже не пахнет:

️ «Сопоставимый по разуму с собакой ИИ появится не ранее 2048 года.

️ А ИИ, сопоставимый по разуму с шестилетним ребенком, вообще не прогнозируется в 1-й половине 21 века».

Возникает резонный вопрос.

О каком поворотном моменте, знаменующем начало перехода к новой техно-эпохе, может идти речь, если ни в 2020, ни в последующие 30 лет никаких грандиозных прорывов не наблюдается и не прогнозируется?

Сразу скажу, — ответ на этот вопрос не имеет никакого отношения к технорелигиям в стиле «кремниевого пророка» Рэя Курцвейла, проповедующих скорое пришествие сверх-интеллекта с последующей техносингулярностью (подробней см. [6]).

Для ответа достаточно вспомнить сказанное в предыдущем разделе, — никаких прорывных изобретений для отправных моментов и не требуется. Обычно, это всего лишь прохождение некой «стрелки», после которой фиксируется избранное направление движения.

Так что же за «стрелка» была пройдена в 2020-м на пути развития ИИ?

И чем эта «стрелка» так важна, если именно её (а не грандиозный прорыв 2012 года, когда в ImageNet впервые было применено глубокое обучение, полностью изменившее две области: машинное обучение и компьютерное зрение) мы готовы считать «великим техно-переломом»?

Для ответа на эти вопросы нам необходимо сначала понять, что такое прагматизация ИИ.

Прагматизация ИИ

Чтобы объяснить смысл понятия «прагматизация ИИ», рассмотрим близкой понятие «прагматизация образования».

Классическая триада целей образования выстраивает их в строгую последовательность формирования трёх классов способностей: понимания, целеполагания и деятельности. Сначала человек учится понимать окружающий мир, — для этого ему нужны знания и умение использовать интеллектуальный инструментарий. Затем у человека формируется ценностная позиция, поскольку целеполагание завязано на ценности. И лишь затем человек учится действовать, осваивая инструментарий практического воплощения целей.

Т.е. образованный человек должен понимать окружающий мир, быть способным к ценностному выбору и лишь затем к продуктивной деятельности.

Прагматизация процесса образования подразумевает использование совсем иных, чем в классической триаде, целевых ориентиров: эффективность и конкурентоспособность. В результате такой замены, меняются сами цели и отменяется требование их строгой последовательности [7].

В итоге продуктивная деятельность становится возможной при отсутствии ценностей и даже при непонимании окружающего мира.

Суть прагматизации образования весьма близка к сути прагматизации ИИ, поскольку стержневым процессом современных ИИ технологий также является обучение, — только на сей раз машинное. Мэйнстримом машинного обучения современных ИИ систем является стопроцентно прагматический подход:

ориентация на целевые ориентиры эффективности и конкурентоспособности;

понимание окружающего мира, собственная система ценностей и индивидуальное целеполагание отсутствуют в принципе.

Это не для кого не секрет. И вот характерный пример. В конце 2019 года Франсуа Шолле — известный исследователь ИИ, работавший в компании Google, — написал правду, которую эта компания была не готова открыто признать: что король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять». В своем «манифесте» Шолле, по сути, написал, что с машинным обучением все замечательно, а с созданием ИИ полный тупик. И причина этого в том, что мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька).

После публикации «манифеста» Шолле, я написал: “Что теперь на это ответит Google — большой вопрос. Отмежуется, начнет ИИ-революцию или просто промолчит? От этого, по гамбургскому счету, зависит траектория развития важнейшей в истории человечества технологии на ближайшие десятилетия”.

И вот спустя год можно констатировать:

▪️ на вопросы «манифеста» Шолле Google предпочел не отвечать;

▪️ новые горизонты совершенствования ИИ компания видит (по словам дочерней DeepMind) в развитии технологий по линии AlphaGo — AlphaZero — MuZero, путем добавления к обучению с подкреплением простейшей модели среды.

Это значит, что и в десятилетии 2020-х Google планирует продолжать развитие своих ИИ технологий, следуя прагматике бизнеса, уже принесшей компании несомненные плоды на пути использования грубой вычислительной силы статистических методов машинного обучения. Следуя прагматическому подходу, системы ИИ от Google не заморачивались с попытками понять механизм человеческого интеллекта, делая ставку на результат — эффективность решения задач и конкурентоспособность таких решений.

Прагматический подход (ставка на эффективность решения задачи, а не на человекоподобие способа её решения) лежит в основе большинства методов машинного обучения. После первых успехов начавшейся в 2012 году «эры глубокого обучения», данный подход стал мэйнстримом исследований и разработок ИИ. К 2018 о прагматическом подходе говорили уже не только в контексте машинного обучения, но и как о наиболее правильном подходе к внедрению ИИ в бизнесе. А в 2020 «прагматичный подход к автоматизации бизнеса на основе ИИ» стал для бизнес-консультантов чем-то само собой разумеющимся.

Поворотным моментом 2020 года — «стрелкой» на пути развития ИИ, после прохождения которой выбор пути на прагматизацию ИИ стал очевиден и, скорее всего, необратим, — стали сразу три события из трех областей: обработки естественного языка, биологии и стратегических играх (и в этом сказалась специфика ИИ, как группы горизонтальных технологий, применимых практически в любой деятельности).

▪️ Генерация системой GPT-3 текстов такого качества, что они кажутся вполне осмысленными даже экспертам.

▪️ AlphaFold — решение задачи высокоточного предсказания пространственной структуры белков.

▪️ Появление у ИИ системы MuZero способности планировать выигрышные стратегии в неизвестной среде без необходимости объяснять правила.

Совокупность этих трех несомненных достижений как бы перевела количество в качество. Для большинства специалистов, экспертов и аналитиков ИИ стало ясно:

️ высокая эффективность подобных систем, ограничиваемая лишь используемыми вычислительными ресурсами, позволяет достигать абсолютного превосходства над людьми в широком круге задач;

️ отсутствие у таких систем человекоподобных свойств понимания окружающего мира, собственной системы ценностей и индивидуального целеполагания не являются принципиальным ограничением для повышения эффективности их решений.

Иными словами, прохождением «стрелки» стало принятие крупнейшими игроками индустрии ИИ того факта, что существующий подход на основе прагматики ИИ достаточен для реализации нечеловеческого интеллекта, способного решать широкий спектр задач. Тем самым создание человекоподобного интеллекта превращается в чисто академическую исследовательскую деятельность, не имеющую в обозримом будущем практической значимости.

Давайте теперь остановимся чуть подробней на отличиях такого нечеловеческого интеллекта, позволивших сделать его разработку столь успешной.

Нечеловеческий интеллект

Oткрытия последних лет перевернули наши представления об интеллекте, разуме и способности учиться.

Во-первых, выяснилось, что интеллект может быть бездумным — т.е. обладать способностью учиться (с течением времени улучшать решение конкретных задач), не обладая при этом способностью мыслить (рассуждать и принимать решения путем выявления причинных, логических, семантических и математических связей между явлениями и событиями).

Подробней об этом см. мой пост «Бездумные машины. Что пошло не так в развитии ИИ и куда это может привести».

Во-вторых, были получены подтверждения того, что наиболее развитые виды животных и птиц обладают интеллектуальными способностями, качественно сопоставимыми с человеческими, что позволяет считать эти виды носителями разума. И хотя этот разум совершенно иной, чем у людей, но с точки зрения эволюционной приспособленности видов, он качественно сопоставим с разумом людей.

Подробней об этом см. мой пост «Мы не венец творения. А всего лишь один из вариантов эволюции разума».

Отсутствие строгой необходимости следовать найденным эволюцией решениям при развитии технологий — общеизвестно. Избитый пример — самолеты не машут крыльями, а подводные лодки хвостами. Аналогичные рассуждения широко распространены и в области ИИ — не нужно пытаться копировать эволюционные решения при создании искусственного разума.

Однако, фантастический прогресс последних лет в области машинного обучения подталкивает к радикальному пониманию потенциальной инаковости машинного разума. Эта радикальная инаковость качественно превосходит инаковость разумов человека, животных и птиц.

✔️ Биологический разум, помимо способностей рассуждать, принимать решения и действовать оптимальным способом (на основе собственной пространственно-временной модели мира и самого себя), обладает основополагающей способностью сознания (набор способностей живых существ желать, чувствовать, воспринимать и ощущать мир и, в том числе, самого себя обособленно от окружающей среды и во времени).

✔️ Машинный разум не обладает сознанием, ибо современная наука пока не представляет, как реализовать в машине способности желать, чувствовать, воспринимать и ощущать мир и, в том числе, самого себя обособленно от окружающей среды и во времени.

Но как показала практика последней пары лет,

отсутствие у машинного разума сознания не является преградой для его совершенствования. Ибо учиться это не мешает.

Созданные в последние годы бездумные машины (от AlphaGo до MuZero) учатся успешно решать проблемы, не только не обладая сознанием, но и не умея рассуждать, не понимая предмета проблем и вообще не имея при этом ни одной мысли.

Это было убедительно доказано тремя событиями 2020-го года, ставшими в совокупности поворотным моментом в развитии ИИ. Несомненные игровые успехи бездумных машин, победивших человеческий разум без малейшей надежды последнего на реванш, продолжились уже не в игровой, а во вполне научно-исследовательской задаче фолдинга белков. А качество текстов, генерируемых GPT-3 без малейшего понимания их семантики, поставили под вопрос святая святых — уникальность человеческого разума для понимания абстрактных понятий естественного языка.

По сути, это значит, что в 2020 было окончательно доказано:

Мышление не является необходимой предпосылкой обучения, а способность рассуждать не является синонимом ума.

Как тонко проанализировал это Джейкоб Браунинг в превосходном эссе «Бездумное обучение» (Learning Without Thinking), еще бихевиористы утверждали, что вознагражденные ассоциации могут объяснить не только обученное поведение, но и любой аспект поведения животных, даже кажущийся осмысленным поведением (подобного поведению моего кота, взглядом указывающего мне на запертую ручку двери на балкон, которую я должен повернуть, чтобы выпустить его погулять). А то, что работает для животных, работает и для людей. Люди могут выполнять множество задач путем повторения, не понимая, что они делают: например, когда дети учатся умножать, запоминая таблицу умножения посредством утомительной практики многократного её повторения вслух.

Подобное бездумное обучение способно приносить феноменально изысканные плоды, существенно превосходящие масштабом выучивание ребенком таблицы умножения. Вот всего два примера, упоминаемые в эссе Джейкоба Браунинга.

Биологическая эволюция представляет собой череду случайных событий, которые, лавинообразно нарастая во времени, порождают все более сложные способности и органы. Это не связано, как ранее предполагалось, с каким-либо прогрессом или телеологическим стремлением к созданию “лучших” видов. Эволюционный процесс, скорее, предполагает, что представители одного вида разовьются так, чтобы, в конечном итоге, адекватно соответствовать другим видам в условиях конкретной окружающей среды.

Экономист XVIII века Адам Смит сформулировал концепцию “невидимой руки рынка”, которая выявила способность миллионов локальных взаимодействий незнакомых людей подталкивать рынок к динамичному, эффективному и полностью аморальному использованию ресурсов с течением времени. Такой взгляд позволяет отбросить рационалистическое убеждение, будто разум — действующая сила истории, а прогресс -результат деятельности “гениев” и “великих людей”.

В обоих примерах “прогресс” — если уместно использовать этот термин применительно к процессам в политике, языке, праве и науке, — является результатом не какого-то грандиозного плана, а бесчисленных, неориентированных взаимодействий во времени, которые адаптивно приспосабливают группы к некоторому стабильному равновесию между собой и окружающей средой.

Подобным же нечеловеческим образом работает и бездумное машинное обучение. Современный ИИ использует для решения проблем аналогичную, хорошо зарекомендовавшую себя нечеловеческую технику: великое множество попыток, плюс некий механизм варьирования реакций на каждую из попыток, плюс некоторый способ оценить, лучше или хуже подходит конкретное решение для данной задачи.

Как и в случае с эволюцией или с «невидимой рукой рынка», большинство попыток заканчиваются неудачами. Но из миллионов неудач в нечеловеческом разуме машины рождаются решения недоступной людям интеллектуальной силы, — подобные 37-му ходу AlphaGo во второй игре матча с Ли Седолем.

Таким образом, машинный интеллект в результате бездумного обучения, но при наличии достаточных вычислительных ресурсов, способен многократно превзойти человеческий интеллект любого уровня, являющийся плодом целенаправленного, осмысленного обучения. Иными словами,

нечеловеческому интеллекту не нужно уметь мыслить, чтобы научиться решать проблему гораздо эффективней любого человека.

То же самое можно сказать не только о мышлении, но и о понимании. Бездумная машина GPT-3, способная создавать кажущиеся людям осмысленными тексты, совершенно не понимает их смысла. Более того. Она вообще ничего не понимает: ни значения отдельных слов, ни их места и роли в предложениях. Для GPT-3 текст — это лишь последовательность символов, при создании которой алгоритм адаптируется вовсе не к смыслу текста, а к статистически значимому способу чередования символов в текстах, созданных людьми. А эту статистику GPT-3 выявляет путем анализа образцов текстов, содержащих миллиарды символов.

Иными словами, нечеловеческий интеллект GPT-3 никак не претендует на роль людей, использующих язык для написания писем, рассказов и научных статей. Бездумная машина всего лишь претендует на роль чрезвычайно искусного знатока повторяющихся взаимосвязей знаков. Однако в итоге, при наличии достаточных вычислительных ресурсов и огромной базы образцов, ничего не понимающая машина оказывается способной писать не только письма, но и рассказы и даже научные статьи, трудно отличимые для непрофессионала, от созданных людьми.

Вышеназванные отличия нечеловеческого интеллекта, позволившие сделать его разработку столь успешной (бездумное обучение и отсутствие необходимости понимать решаемую задачу), в сочетании с прагматикой современного машинного ИИ (целеполагание, завязанное не на ценности, а на эффективность и конурентоспособность), — делают нечеловеческий интеллект идеально приспособленным для замены людей во многих областях человеческой деятельности.

Понимание этого пришло не вчера. Но от его осознания до понимания того, что мышление для обучения вообще не обязательно (если есть возможность сделать очень много попыток), ушло несколько последних лет.

Итоги 2020 зацементировали произошедшую после прорыва 2012 года смену направления развития ИИ: с пути попыток создания человекоподобного интеллекта на путь совершенствования нечеловеческого интеллекта, куда в течение, как минимум, ближайшего десятилетия будет вкладываться львиная доля огромных бюджетов монополистов информационного бизнеса.

Основным следствием прохождения этой «стрелки» для будущего развития ИИ станет, скорее всего, следующее.

Лавинообразный прогресс в исследованиях и разработках нечеловеческого интеллекта покажет его абсолютное превосходство над человеческим интеллектом при решении широчайшего спектра важнейших задач, что естественным образом приведет к выводу о ненужности дальнейших (и к тому моменту столь же тщетных, как и сегодня) затрат на разработку человекоподобного «ИИ общего назначения» (AGI) c последующей заморозкой финансирования проектов последнего.

Таким образом, суть «великого техно-перелома», знаменующего начало эпохи торжества прагматики ИИ, можно описать в трех ключевых пунктах.

Результаты, достигнутые грубой вычислительной силой статистических методов машинного обучения, — очень хороши. А от добра добра не ищут. И нет смысла менять основной вектор развития ИИ технологий.

До тех пор, пока не будут найдены реализуемые на практике способы создания человекоподобного интеллекта («ИИ общего назначения», AGI), эта цель будут оставаться в рамках интересов академических проектов энтузиастов.

Невозможность реализации человекоподобного (общего) интеллекта никак не будет сдерживать массовое промышленное внедрение технологий «нечеловеческого ИИ», подобно тому, как совершенствование новых поколений экскаваторов, подъемных кранов и бульдозеров никак не страдает от отсутствия универсальных устройств, объединяющих всевозможные техники перемещения предметов и материалов.

Возможные последствия великого техно-перелома 2020

Слева — наука. Справа — инжиниринг

Многие, наверняка, назовут все вышесказанное алармизмом. А названный мною процесс «великого техно-перелома 2020» будут трактовать как обычный инжиниринговый подход к практическому внедрению новых научных достижений в области информационных технологий.

И против последнего довольно трудно возразить. Ведь действительно:

— в науке пытаются понять, как система устроена и какие закономерности лежат в ее основе, а затем, на основе этого понимания, ищут наиболее изящные решения для каких-то конкретных задач;

— а в инжиниринге царит прагматика решения конкретной задачи, и потому просто ищется её наиболее простое, дешевое и надежное решение.

Но беда в том, что переходом от науки к инжинирингу ИИ последствия «великого техно-перелома 2020» не исчерпываются. Полагаю, что последствия прагматизации ИИ выйдут далеко за пределы развития будущих технологий. Они решающим образом скажутся на политическом и социальном устройстве мира и решающим образом повлияют на будущее человечества в контексте экзистенциальных рисков его существования.

Детализацию таких рисков читатель найдет в уже упоминавшемся моём посте «Бездумные машины. Что пошло не так в развитии ИИ и куда это может привести». Увы, но за прошедшие с его публикации три года все названные там риски лишь еще более актуализировались.

За одним исключением, которым мы обязаны … COVID-19.

Пандемия сломала последний бастион на пути окончательной прагматизации ИИ — наивысшую ценность индивидуальной свободы в современном мире.

Согласившись на мнимый компромисс, все больше людей готовы жертвовать свободой, якобы, в обмен на здоровье и жизнь. И эта покорная готовность окончательно превращает «искусственное бездумие» разрабатываемых ИИ приложений в «натуральное безумие» их неконтролируемого применения (естественно, в самых что ни на есть гуманных целях).

Так что вполне возможно, что лет через тридцать «великий техно-перелом 2020» будут всячески славить, называя его великой победой Большого брата — сына Большого бога, сохранившего жизнь человечеству, избавив его от ядерного и экологического апокалипсиса. Но об этом нужно писать уже другой пост.

 

Источник: канал «Малоизвестное интересное», сайт «Яндекс. Дзэн».

Оставить комментарий

Войти с помощью: