Естественнонаучное мышление имеет характерную склонность не рефлексировать собственных границ. Как следствие, в науке постоянно делаются
неоправданные экстраполяции типа «тепловой смерти Вселенной», стационарности Вселенной, возможности технологической сингулярности, возможности сведения всего к одному материальному началу, построения теории искусств, единой теории поля и т.д. и т.п.
Технология Искусственного интеллекта (ИИ), порождённая внутри такого мышления, сегодня также неоправданно распространяется практически на все сферы жизнедеятельности человека, при этом границы применимости ИИ почти не рефлексируются. Нарушается базовый принцип модельного подхода в науке: любая научная модель обязательно сопровождается определением границ применимости, внутри которых эта модель может быть использована с известной точностью. Вне этих границ использование модели неоправданно приводит к ошибочным и даже прямо противоположным результатам. Таким образом, определение границ применимости ИИ – важнейшая задача правильного и безопасного использования ИИ. Эта задача должна быть решена наукой как можно скорее, иначе очевидные негативные последствия неограниченного использования ИИ приведут, помимо прочего, к резкому снижению значимости науки в структуре современного общества.
Сделаем попытку определения таких границ ИИ исходя из того, что ИИ есть вычислительная процедура, реализуемая в программном коде на больших данных и актуализированная обществом на определённой стадии своего развития (в определённом культурном контексте). Выделим шесть типов границ ИИ:
1) материальное обеспечение ИИ и больших данных;
2) вычислительные возможности программного кода;
3) пространственно-временные условия вычислительной процедуры;
4) возможности языка;
5) психическое измерение интеллекта и мыслительного процесса;
6) ноосферный предел ИИ в контексте одноимённого учения В.И. Вернадского.
Материальное обеспечение ИИ и больших данных
Большие данные как информация обязательно имеют материальный носитель, без которого, согласно современным представлениям, информация не существует. В пределе таким материальным носителем является вся информационно-коммуникационная сеть Интернет, охватывающая сегодня всю планету и околоземное космическое пространство с постоянно увеличивающимся в нём количеством искусственных объектов.
Традиционный научный подход опирается на математическое моделирование, в котором смысл, выраженный в модели, сворачивает в приемлемые для человеческого понимания формы огромные объёмы информации. То есть наука разделяет работу с информацией на качественную и количественную и за счёт качественных подходов может справляться с большим количеством информации. ИИ, в отличие от классической науки, решает задачи количественно, на больших данных, работа с которыми лежит за пределами когнитивных возможностей современного человека. Для такого ИИ всегда будет справедлив афоризм: «больших данных много не бывает» – для ИИ их всегда мало. Это означает, что всегда мало будет материального носителя для таких больших данных. А так как наша планета ограничена, космическое пространство практически пустое, ближайшие звёзды находятся на огромных удалениях от Земли, что при ограниченности скорости света делает их бесполезными в материальном аспекте, всё это приводит нас к выводу о наличии принципиального и неустранимого ограничения материального носителя ИИ и больших данных, подобного ресурсным ограничениям на полезные ископаемые планеты.
Вычислимость ИИ и невычислимость мозга
Эмпирический закон Мура утверждает удвоение производительности вычислительных систем каждые 18 месяцев. Сам Мур указывал, что данный закон имеет принципиальные ограничения в атомарной природе вещества и пределе скорости света. По некоторым оценкам, его действие должно было прекратится в 2025 году. Основной аргумент против остановки действия закона – квантовые вычисления, которые расценивают как возможную очередную революцию в производительности вычислительных систем. Однако, как показано Р. Пенроузом, классический и квантовый компьютеры являются «машиной Тьюринга», или «конечным автоматом», все ограничения конечного автомата справедливы для этих машин, и главным из них является невычислимость.
Как утверждает Пенроуз, мозг человека обладает невычислимой активностью, обнаружить и исследовать которую не удаётся с помощью современной физики, включая её квантовые разделы, так как последняя вычислима по построению. Из этого утверждения делается прогноз, что в будущем должна возникнуть новая физика, которая включит в свою структуру невычислимость, а главным и, возможно, единственным инструментом для её поиска и построения будет не ИИ, а мозг человека. Вопрос о возможности построения ИИ на новой невычислимой физике мы оставляем за скобками как спекулятивный. К его обсуждению можно будет вернуться после обнаружения новой невычислимой физики.
Пространственно-временные ограничения вычислительной процедуры
Эта группа ограничений является наиболее интересной, выделим здесь также несколько типов ограничений.
ИИ как замкнутая по времени система с деградированным будущим
Искусственный интеллект – это надстройка над большими данными, которые полностью находятся в прошлом. Уже только этого простого факта достаточно, чтобы понять, что время ИИ– это деградированное время, в нём нет модуса будущего или в нём такое будущее, которое мыслится как продолженное прошлое. Всё, что может ИИ, – это комбинаторика над прошлым, в которой может быть получено новое как новая комбинация ранее известных данных, но в ней нельзя получить небывалое – то, что отсутствует в предыдущем опыте. Есть красивая метафора этой ситуации: ИИ – это попытка ехать на автомобиле вперёд, глядя только в зеркало заднего вида. Ясно, что двигаться так можно только по прямой, а на первом повороте будет авария.
Сделаем следующий логический шаг, опираясь на второе начало термодинамики, согласно которому энтропия замкнутой системы всегда возрастает. То есть замкнутая система обречена на деградацию, первоначально существующий в ней порядок будет уменьшаться, а хаос – увеличиваться. Отметим, что термодинамика понимает замкнутость как пространственную ограниченность, тогда как у ИИ мы фиксируем её по времени. Однако, принимая во внимание единство пространства-времени, можно поставить знак равенства между этими типами замкнутости. Следовательно, замкнутая система ИИ обречена на деградацию, несмотря на постоянное пополнение и расширение больших данных.
Информационная энтропия ИИ может только увеличиваться, а степень информационного порядка – убывать. Под информационным порядком мы понимаем чёткое разделение правды и лжи, именно это разделение со временем теряет чёткость, размывается, а правда и ложь спутываются. На первых этапах этого спутывания человек ещё в состоянии это распознавать, но чем дальше, тем труднее, и несложно предсказать момент, когда отделить правду от лжи станет невозможно. Человек может быть определён как существо, постоянно потребляющее информацию определённого качества, в которой правда и ложь разделены между собой. Это разделение есть признак человеческой информации. Если такого разделения нет – информация становится нечеловеческой, а её потребление от ИИ ведёт к расчеловечиванию.
ИИ как замкнутая по времени система с деградированным не только будущим, но и прошлым
Развивая логику предыдущего пункта, можно прийти к ещё более «жёстким» выводам. Рассмотрим современное понимание пространства и времени как четырёхмерного континуума по Г.Б. Минковскому, где время есть четвёртая пространственная координата. В этой модели время лишено своей уникальности и определяется через не свойственные ему пространственные категории, а так как пространство дано нам в восприятии только в модусе настоящего, именно он становится ключевым для восприятия времени как такового. Модель Г.Б. Минковского и все дальнейшие построения на её основе есть понимание времени как продолженного настоящего.
Модус настоящего абсолютизируется и через него идёт восприятие прошлого и будущего. Возникает феномен продолженного настоящего как в будущее, так и в прошлое. Ясно, что в такой логике будущее и прошлое сильно искажаются, и именно в ней становятся возможными такие яркие и противоестественные концепции будущего, как «Конец истории» (Ф. Фукуяма)[1], «Технологическая сингулярность» (Р. Курцвейл) и др. Здесь же лежит известная проблема сложности исторических реконструкций и невозможности полного понимания прошлого.
Парадоксальность пространства-времени Г.Б. Минковского
Модель Г.Б. Минковского содержит принципиальную парадоксальность, которая состоит в соединении простого пространства (с наличием симметрии левого и правого, верха и низа) и сложного времени (с отсутствием симметрии будущего и прошлого). Кроме того, естественное требование логики при построении сочетаний в паре элементов (в нашем случае пространства и времени) состоит в том, чтобы не только присоединить время к пространству, но также – пространство к времени. В последнем случае было бы получено многомерное время, а количество важных выводов, очевидно, было бы не меньше, чем в четырёхмерном пространстве Минковского. Такая работа в науке не сделана до сих пор, что указывает на односторонность научного развития. В этой парадоксальности и односторонности можно усматривать одну из причин противоречивости и неудач многих научных попыток создания единой теории поля и единой научной картины мира в целом. Её также можно считать ограничением на ИИ и усматривать в ней одну из причин неспособности ИИ работать с понятиями «единое» и «целое» и, как следствие – симулировать феномен сознания.
Биологическое пространство‑время В.И. Вернадского
В начале прошлого века, параллельно с Г.Б. Минковским, А. Бергсон предложил альтернативную систему взглядов на время, позже развитую В.И. Вернадским в его учении о биологическом времени и пространстве. В этих представлениях время и пространство объединялись естественным образом, через понимание сложности и времени, и пространства, и с сохранением уникальности каждой части единого пространства-времени. В них время остаётся временем (а не пространством, как у М.Б. Минковского), а будущее по-прежнему есть возможность нового и небывалого, не детерминированного опытом прошлого.
Г.П. Аксёнов, анализируя труды В.И. Вернадского, пишет: «…понятие времени в физике есть абстрактный феномен неизвестной природы, от которого взята только одна количественная сторона. Этот феномен используется для измерения движения благодаря присущей ему (интуитивно мыслимой) равномерности». И далее: «в физике… время абстрактно, неопределённо, аморфно и обладает чистым количеством, свойственным математике, являясь количеством точек неизвестно чего длящегося». То есть, согласно Вернадскому, физика значительно упростила для себя понимание времени до однородного, линейного и чисто количественного, что позволило сделать простое математическое описание механического движения.
В «Принципах» Ньютона «любая часть тела ведёт себя так же, как целое тело, между целым и частью нет различия в качестве, только в количестве, что облегчает наблюдение и измерение». Другими словами, движущееся тело может быть представлено математической точкой, а происходящими внутри этого тела процессами можно пренебречь. Для такого тела всегда есть момент времени, когда его масса не меняется и, следовательно, описание его движения может быть сделано средствами дифференциально-интегрального исчисления. «Совсем другое – живое существо… его никак нельзя представить в виде точки… в нём самом заложен движитель, заставляющий его перемещаться… Процесс метаболизма… инициируется внутренними процессами, идущими непрерывно и строго целенаправленно. Любая часть живого организма непохожа на весь организм». «В живом веществе интервалы фактически изготовлялись самими организмами, причём в разном темпе, их продолжительность даётся не извне, а зависит от внутренних процессов в организме». То есть живому организму (веществу) присуще биологическое время. Оно возникает изнутри живого и через него проявляется. Здесь не существует такого момента времени, когда бы масса живого оставалась постоянной, и, следовательно, аппарат дифференциально-интегрального исчисления не применим.
Очевидно, что ИИ задан в механическом, линейном, внешнем, «мёртвом» пространстве-времени. Сознание же человека, как и сам человек, находится в биологическом, неоднородном, внутреннем, живом пространстве-времени. Возможен ли переход от мёртвого к живому для ИИ? Этот переход запрещён принципом Реди: «Живое происходит только от живого». В.И. Вернадский расширяет и дополняет принцип Реди: жизнь не может появиться из косной материи, она не случайна, она закономерна, непрерывна и вечна, её не может не существовать, жизнь есть явление космическое, и, следовательно, Космос живой. Это означает, что ИИ никогда не сможет выйти на уровень сознания, так как последнее есть проявление живого. ИИ ограничен областью интеллекта – той части сознания, которая обнаруживает себя в стремлении к механическому, линейному, внешнему, мёртвому пространству-времени (это не противоречит принципу Реди: косное может появиться из живого, но обратное – неверно). Другая часть сознания, а именно мышление, обнаруживает себя противоположно интеллекту: оно всегда остаётся в биологическом, неоднородном, внутреннем, живом пространстве-времени.
Кайрос
Следующим ограничением ИИ является форма времени, хорошо известная с античных времён, но полностью забытая в современном научном мировоззрении. Речь идёт о кайросе, счастливом мгновении древних греков – качественном времени, разделяющем жизнь «на до и после», задающем необратимость и нарушающем симметрию будущего и прошлого. Время современной науки, как уже было сказано, однородное, количественное и лишь условно необратимое (так как необратимые процессы описываются, за небольшим исключением, обратимым математическим аппаратом). Отражением кайроса в современной философии является понятие спонтанности, о котором В.В. Налимов писал следующее: «Спонтанности мы должны приписать статус философской категории… мы вынуждены признать, что это одна из самых трудных для понимания категорий. Она трудна тем, что должна проявлять себя вне причинно-следственной цепочки связей, и тем, что она находится вне привычных временны́х представлений, так как в спонтанности решения есть всегда забегание вперёд, всегда есть… смешивание будущего с прошлым, и, наконец, тем, что спонтанность представляется нам трансличностным началом, несущим в себе нечто непонятным образом связующее личностное и вселенское и, таким образом, задающее единство Мира в его творческом раскрытии».
Из невозможности игнорировать спонтанность и при этом понять и описать её природу научное мировоззрение создаёт понятие случайности – как попытку объяснить непредсказуемость простого, элементарного и механического по своей природе события. Как мы видим, в этой редукции спонтанного к случайному теряется сама суть. В технологию ИИ может быть введена случайность, но не может быть введена спонтанность, и, следовательно, кайрос остаётся недоступной формой времени для ИИ, и поэтому он является его ограничением.
Реальное время
В.И. Вернадский в своём учении о биологическом времени и пространстве вводит ещё одно понятие – мгновенное время, которое может быть сопоставлено с греческим кайросом. Современный человек в своём бытии всегда имеет дело с тремя формами времени: механическим, биологическим и мгновенным. Продолжая линию рассуждений А. Бергсона и В.И. Вернадского о реальном времени, отличном от времени современной науки, предложим определить его как комбинацию механического, биологического и мгновенного времени, то есть как спиральное время. В спирали мы имеем линейность физического времени как направленность на цель; цикличность биологического времени как условие баланса и равновесия; смещение (кайрос) с предыдущего витка спирали на следующий, как условие познания и продвижения вперёд. Из предыдущих рассуждений ясно, что реальное спиральное время ИИ недоступно, хотя отдельные его элементы ИИ использует. В частности, элементы циклического времени можно найти в рекурсивных вычислительных процедурах ИИ, а элементы смещения кайроса – в использовании понятия «случайность» в байесовых и эволюционных алгоритмах.
Предел языка, или «Мысль изречённая есть ложь» (Ф.И. Тютчев)
Согласно структуралистам, культура общества, человек есть знаковые системы или тексты, организованные по правилам языковой грамматики. Такой подход наделяет лингвистику статусом универсальной науки, своеобразной новой физики, которая претендует на полное понимание природы и человека через инструменты языка. В этом контексте следует понимать известное высказывание М. Хайдеггера о языке как доме бытия.
Сегодня мы имеем ИИ типа больших языковых моделей, которые преодолевают тест Тьюринга: обычный человек более не в состоянии различить, с кем он ведёт удалённое общение – с другим человеком или с машиной. Обучение таких языковых моделей выполняется на основе словесного описания того или иного человеческого опыта. И вот здесь можно обозначить принципиальное отличие человека от ИИ. Если ИИ доступно только языковое описание опыта человека, то сам человек имеет помимо этого привилегию прямого переживания действительности в своём телесном опыте, находящегося вне языка и его грамматики. Следовательно, ИИ всегда вторичен, а человек – первичен. И поскольку языковое описание это интерпретация, а в ней всегда есть определённая степень искажения или, скажем прямо, ошибки, то ИИ всегда не только вторичен, но и принципиально ошибочен, так как ошибка эта неустранима.
Сознание человека, в отличие от ИИ, функционирует в двух средах. Первая – это язык, и здесь естественный интеллект человека мало чем отличается от ИИ. Вторая – это труд как важнейшая часть жизни человека, в которой он имеет опыт прямого, телесного и внеязыкового переживания действительности. Именно через труд человек обретает смысл своего существования и трудом возносится на недосягаемую для ИИ высоту.
В этой логике становятся понятны усилия трансгуманистов по дискредитации труда как деятельной формы выражения и формирования сознания человека и огромные усилия по его вытеснению из бытия человека различными инструментами типа безусловного базового дохода или концепциями цифрового двойника человека, на которого переносятся в том числе задачи обеспечения жизнедеятельности человека.
Предел психического, или предел мысли
Представим, что ИИ обрёл телесность человека и из собственного опыта взаимодействия с действительностью начал самостоятельно извлекать информацию. Для нас это будет означать, что придётся глубже заглянуть в самих себя и раскрыть те потенции своего тела и сознания, которые до сих пор оставались под спудом. Придётся признать, что телесность полностью не описывается на внешнем, наблюдаемом уровне, на котором находится наука и на котором только и может быть сделан робототехнический аналог тела человека. У нас есть второй, психический, не наблюдаемый уровень телесности.
У каждого имеется опыт сновидений и проживания в них событий в полноте сознания, с активностью всех пяти чувств вместе с мышлением и волей, в то время как физические проводники этих чувств, включая мозг, находятся в пассивном состоянии. Здесь кроется причина любого движения, которая прямо связана с мыслью. Мысль даёт первый импульс движению чувств, ума, тела. Феномен навязчивых мыслей доказывает, что мысль обладает самостоятельным поведением, способным сопротивляться нашей воле. А это есть прямое указание на то, что мысль – живая. Работа с ненаблюдаемым запрещена научной методологией, а феномен жизни был и остаётся извечной загадкой для материалистической науки. В зоне психических проявлений сознания человека и его мыслительной деятельности лежит очередной предел ИИ.
Ноосферный предел ИИ
ИИ можно считать предельным обобщением, или апофеозом возможностей современной науки в её системном рассмотрении информационных, когнитивных, биологических, социальных и других процессов в описанной выше пространственно-временной специфике. Именно такая установка науки приводит современную цивилизацию к тому, что в культуре названо постмодерном: тотальной деконструкции всего и полной иронии над всем. ИИ есть сильное выражение постмодернистского духа современной науки, приводящей сегодня к отрыву человека от его внешней и внутренней природы, замыканию человечества в пределах планеты и определению космоса как враждебной человеку среды.
У В.И. Вернадского таким предельным обобщением является учение о Ноосфере как совокупном разуме всего человечества, находящемся в гармонии личного и общественного, человеческого и природного, земного и космического. Несложно показать, что ИИ в ноосферной картине мира не возникает как тотальная технология преодоления человеческого, и, следовательно, Ноосфера есть принципиальное ограничение ИИ.
ИИ есть технология реализации принципа разделения, перенесённая на интеллектуальную деятельность человека для решения задач автоматизации этой деятельности. Именно так шло индустриальное развитие западноевропейской цивилизации последние 300 лет, а принцип разделения закреплён во всех базовых деятельностях человека: разделение властей – в управлении, разделение труда – в производстве, дисциплинарное дробление единой природы – в науке и образовании. Как уже было сказано, естественнонаучное мышление имеет характерную склонность делать неоправданные экстраполяции, что в полной мере проявляется в отношении принципа разделения и технологии ИИ. Есть сильная (и ложная!) точка зрения в поле науки техногенной цивилизации, что всё можно разделить, упростить и, следовательно, автоматизировать. Но на пути сторонников этой точки зрения есть два больших камня преткновения: феномены жизни и сознания.
Науке никак не удаётся синтезировать искусственную жизнь и симулировать сознание. По мнению В.В. Налимова, современная наука по-прежнему остаётся усовершенствованным вариантом механической картины мира И. Ньютона, даже в таких своих разделах, как общая теория систем и синергетика: «В синергетике, возникшей в среде термодинамиков, доминирует механицизм, обретающий теперь, правда, иной статус, становясь нестабильным, непредсказуемым. Соответственно, в этой системе представлений устойчивость и равновесность оказываются тупиками эволюции».
Следовательно, механические образы такой науки неприложимы к описанию жизни и сознания. Нужны иные образы, более соответствующие организму, чем механизму. Попытку развернуть механистическое научное мировоззрение в сторону организмичности в начале прошлого века предпринял В.И. Вернадский, создав учения о живом веществе, биосфере, Ноосфере и о биологическом пространстве-времени. В это же время создавались специальная и, позже, общая теория относительности и квантовая механика. Можно говорить о прохождении цивилизацией в этот период «точки бифуркации», выбора научных представлений, в которых будет определяться XX век: между усовершенствованным механицизмом теории относительности и квантовой механики и представлениями о живом как фундаменте научной картины мира в учениях В.И. Вернадского.
Выбор был сделан в сторону усовершенствованного механицизма, а организмичность учений В.И. Вернадского была проигнорирована. До 1975 года учение В.И. Вернадского о биологическом пространстве времени было запрещено к публикации в СССР. В результате мы получили эпоху постмодерна с тотальной деконструкцией всего, до чего можно было дотянуться, отменой принципа иерархичности и заменой его сетевыми конструкциями, удалением из общественного дискурса понятий Красоты и Истины и порождением феномена постправды, когда правда и ложь спутываются и становятся неразличимы.
Технология ИИ есть полное отражение постмодерна в сфере интеллектуальной деятельности человека. Несмотря на локальные успехи технологии ИИ, общая ситуация кризиса цивилизации позволяет ожидать скорого ослабления постмодерна и перехода общества к следующей стадии развития – метамодерну, в котором ноосферные представления В.И. Вернадского об устройстве общества и сферные представления о науке будут играть ключевую роль. При этом ИИ также должен потерять своё доминирующее положение в общественном сознании. Нам остаётся надеяться, что ошибка, допущенная в начале прошлого века, не будет повторена, а цивилизация выберет будущее «для всех», в основании которого будет человек во всей полноте его когнитивных возможностей, в пределе сопоставимых с самим Космосом.
***
Обозначенные выше границы ИИ важны не только для понимания самого ИИ, но и для понимания естественного интеллекта, мышления, телесности и сознания в целом. Если обозначенную систему ограничений ИИ спроецировать на сознание человека, то в нём также можно выделить ограниченную область естественного интеллекта и ту часть сознания, которая выходит за его пределы и которую обычно называют мышлением. Мышление можно характеризовать как потенцию ума выходить на собственные границы и переходить через них. При этом данная потенция лежит вне интеллекта, так как он, будучи взят сам по себе, стремится к измеримому повышению своей эффективности за счёт упрощения, ограничения, экономии, разделения, усреднения, уклонения от труда и т.п. Оставленный сам по себе интеллект на себе же и замыкается, быстро исчерпывает свой ограниченный ресурс, останавливается в развитии, неизбежно деградирует и вырождается. Одна из причин современного общего кризиса цивилизации, очевидно, лежит в этой области, и в ней же находится способ преодоления этого кризиса: в актуализации той части сознания, которая отвечает за труд и мышление, противоположное интеллекту. Отсюда следуют ряд важных выводов:
- Попытка редуцировать телесную и психическую активность человека, его мышление и умение работать с живой мыслью к интеллекту, замкнутому в языке на самого себя, неизбежно приводит к остановке развития и деградации человека и цивилизации, порождает сценарии трансгуманизма, где «усечённый» естественный интеллект гарантированно проигрывает ИИ.
- Труд и мышление есть условие развития для человека, а через него и для ИИ.
- Так как ИИ не обладает телесностью и мышлением, их носителями является только человек, развитие ИИ может обеспечиваться только постоянным взаимодействием с человеком и при удержании аналогии между структурой ИИ и сознанием человека. Иначе: человек есть постоянное и непреодолимое условие развития ИИ.
- Человек за счёт труда и мышления всегда первичен и остаётся в управляющей позиции к ИИ, даже проиграв ему в решении широкого круга интеллектуальных задач на современном этапе эволюции.
Источник: НИР №11, 2026
Илья ВОЛЬНОВ, кандидат технических наук, почетный работник сферы образования РФ
[1] Концепция «Конца истории» Ф. Фукуямы объявляет достигнутое современное демократическое устройство общества наивысшим достижением, лучше которого ничего быть не может, и, следовательно, будущее в таком устройстве – это продолжение настоящего и конец каких-либо изменений этого устройства (истории).