Наука

«ИСКУССТВЕННЫЙ РАЗУМ ПРИДЕТ,

КАК ПАРТИЗАНЩИНА»

Программа развития искусственного интеллекта, считает Владимир Бодякин, старший научный сотрудник Института проблем управления РАН, может лишить российских чиновников их рабочих мест. При этом судьбу этой программы будут решать как раз эти самые чиновники.

– Владимир Ильич, почему вы утверждаете, что человечеству, чтобы выжить в условиях ХXI века, нужен искусственный интеллект?

– Мир вступает в информационную эпоху. И для России сохраняется возможность одной из первых стартовать в информационную вселенную. Экономически развитые страны провозгласили переход к экономике, основанной на знаниях. Ежегодный оборот на мировом рынке высоких технологий и наукоемкой продукции измеряется триллионами долларов, в несколько раз превышая оборот рынка сырья, включая нефть, нефтепродукты и газ. Пока Россия на этом рынке представлена слабо – 0,3%, тогда как США – 39%, Япония – 20%, Германия – 16%. Как видите, проблема автоматизации переработки информации на фоне роста ее потоков приравнивается к выживанию в меняющихся условиях, а это можно сделать только при помощи искусственного интеллекта.

– Почему именно искусственного?

– По данным нейрофизиологов, в памяти человека примерно до миллиона образов. Скорость операций человеческого интеллекта составляет десятки герц – с такой скоростью работает нервная система. Максимальное количество параллельных процессов – два-три одновременно. Если взглянуть на возможности вычислительной техники, то тут мы получаем усиление в разы: быстродействие современных компьютеров в миллионы раз превышает быстродействие элементной базы биологических нейронов человека. Память современных компьютеров неограниченна. Количество параллельных процессов, которые можно запустить у компьютеров, велико и растет.

– Вы подразделяете искусственный интеллект на cобственно искусственный интеллект (ИИ) и искусственный разум (ИР). В чем разница?

– ИИ – это автоматизация рутинных операций или слабый искусственный интеллект, а ИР – сильный интеллект, по творческим возможностям он не уступает человеческому, а по скорости должен превзойти его.

– Как далеко вы продвинулись в создании ИИ и ИР?

– Мы находимся на первом этапе создания программной матрицы, которую надо будет обучать, как ребенка – есть, пить, говорить. Потом какое-то время уйдет на самообучение системы, как школьника, который уже сам учится писать, считать. Пока речь идет о моделировании на обычной вычислительной технике. Отводим на эти процессы год-два. Второй этап – формирование системы не на универсальной вычислительной технике, а на специализированной элементной базе. На это уйдут еще год-два. Где-то к 2011 году система может заработать. Могла бы и раньше, но, к сожалению, страна, имея научные разработки с 1970-х годов, зашевелилась только в 2004-м.

– Правда, что создаваемая вами концепция искусственного интеллекта, названная «Информоград», претендует на замену бюрократического аппарата и передачу его функций искусственному интеллекту?

– В этом нет ничего нового. Смысл создания ИИ – функции социально-экономического управления обществом берет на себя техническая система «Информоград». Наработки этой концепции еще в 1970-е годы предлагал академик Виктор Глушков, в то время директор Института кибернетики Украины. Она называлась ОГАС, общегосударственная автоматизированная система управления. Но тогда была слабая вычислительная техника, да и бюрократическая система все сделала, чтобы ее свернуть. Потом грянула перестройка – типичный кризис систем управления, непонимание, куда двигаться, и отсутствие идей, что приводит общество к хаосу. Кстати, сегодня в мире нет государственных или иных структур, которые позволяли бы направить социально-экономические процессы в некое гармонизированное русло. Все двигаются на ощупь. А вызовы нового времени становятся все более частыми и разнообразными – климатические изменения, региональные конфликты, концентрация мегаполисов, рост сверхпотребления…  А, например, Пентагон и NASA, как показывает анализ, способны оперативно реагировать только на штатные ситуации по истечении нескольких минут, а на нештатные – те же пожары в Калифорнии, наводнения в Новом Орлеане – они реагируют неделями и даже месяцами… Ведь эти ситуации не были предусмотрены системой управления, чтобы их ликвидировать, необходимо создать некую структуру, которая способна их решать, а возможно, предвосхищать неформальными методами.

В частности, и для этого разработана концепция «Информоград». Эта структура производит новые знания, распространяет их в окружающее пространство и методом сопоставления способна дать варианты решения проблем, предусмотрев разные последствия. Главное в ней – если для управления современными социально-экономическими структурами необходима разветвленная бюрократическая система, то из «Информограда» чиновничья прослойка уходит. Функции чиновника выполняет машина. Причем вариативно. Система ИР превышает мощность бюрократического аппарата пока в сотни раз, а в процессе саморазвития способна превзойти его в миллионы раз, взяв на себя не только функции управления, но и распределения трудовых ресурсов. Система может рекомендовать людям, изучив их потенциал, место работы, жительства или иное самовыражение. Те же чиновники-управленцы сегодня составляют 10-11% российского общества. «Информоград» высвобождает этот ресурс для творческой работы. Они могут стать учеными-управленцами, художниками, поэтами, дачниками – кем захотят.

– Вы понимаете, что предлагаете упразднить привилегированный класс?..

– …Как и то, что он на это не пойдет. Поэтому мы и работаем, что называется, в чистом поле. Мы решаем обычные текущие управленческие задачи, а «Информоград» развивается, как оффшорная зона. Мы виртуально взаимоувязываем проблему создания ИР с текущими задачами Института управления РАН. Если хотите, «Информоград» придет, как партизанщина, – сетевое виртуальное общество, которое зародится внутри нашего общества, но станет параллельным ему. Однако ИР, поскольку станет более эффективным, перетянет всех пользователей. Сетевое общество «Информограда» станет со временем глобальным.

– Все равно непонятно: как технически машина заменит собой мыслительный процесс управления обществом?

– Уже никто не удивляется, что биометрические паспорта на Западе выдает не строго хамоватая тетечка, как у нас, заставляя народ томиться в очереди, а автомат, и за полминуты. Это только начало. В процессе исследований мы обнаружили, что входящая информация способна формировать структуру искусственной нейронной сети ИР. Вскоре мы открыли явление «автоструктуризации» – когда информация в искусственной нейронной сети автоматически формировала причинно-следственную модель окружающего мира. Если грубо, из многих вариантов выбора, выхода из кризиса или разрешения нештатной ситуации «автоструктуризация» подсказывала несколько путей оптимального выбора, и, что важно, с учетом их последствий.

– «Информоград» не спровоцирует войну чиновников против революционных технологий?

– Революций в традиционном понимании не будет. «Информоград» иначе мыслит. Он будет выполнять функцию по производству новых знаний. Помимо регулирования он будет разводить людей по интересам – как умный менеджер, обладающий в миллионы раз превосходящей производительностью, нежели отдельно взятый человек. Также он способен решать проблему выбора профессии, организовывать досуг, вести медицинские карты. Причем рекомендательно: «Вам желательно в отпуск поехать туда-то для восстановления таких-то органов…» Это будет симбиоз людей и машин в информсистеме, в которую люди будут вплетены как в единый организм. Знаете, как в биологии, где произошел этап объединения одноклеточных организмов в многоклеточные? Так и сегодня наступает момент, когда отдельные субъекты начинают объединяться в многоклеточный организм, где функции, скажем, центральной нервной системы будет выполнять ИР. Мы подсчитали: если 200-300 разнопрофильных специалистов объединятся под курированием ИР, эффективность каждого из них возрастет до 1000 раз. Так личность получит шанс для максимального самовыражения и понимания того, зачем она пришла на эту землю.

– Если все так здорово, почему в США NASA обеспокоена появлением «недружественного» ИР и ведет разработки по его нейтрализации?

– Страхи, что искусственный разум поработит человечество, – пример распространившегося шаманизма от киноиндустрии. Увы, закон эволюции: для человека был и остается опасным другой человек – у нас одна ниша потребления. Генетически же ИР нацелен на космос – там поле его деятельности. Неограниченное количество материальных ресурсов Вселенной не дает основы для конфликта между искусственным разумом и человеком. С точки же зрения сотрудничества ИР для человека идеальный партнер: у них одна область производства самотиражирующегося результата, где каждый получает конечный продукт – новое знание. Насколько я знаю, под недружественным понимается слабый искусственный интеллект, когда он выполняет процедуры, заложенные разработчиками, но способен сам формировать новое мировоззрение, управляя человеком. Или «сбоить». Но он – обычный автомат. Его можно отключить или вынуть штепсель из розетки.

– А если ваше изобретение попадет в руки террористов или одной страны, которая, используя новые технологии, недоступные остальным, захочет управлять миром единолично?

– Поэтому мы не спешим с внедрением в практику ИР. Наука действительно уже оказывает влияние на мир. Это видно по бурному росту высоких технологий. И чтобы не случилось информационного Чернобыля, мы задумались о том, к чему может привести создание полноценного ИР. В свое время, когда были созданы АЭС, ученые не предусмотрели возможности аварий и их последствий. Подобного с высокими технологиями допустить нельзя. Ведь они приобретают характер технологий глобального действия, когда ограниченная группа людей, владея ими и современным уровнем знаний, фактически влияет и может как помогать, так и угрожать человечеству. Что такое компьютерный вирус? Это когда группа людей создает программы, которые могут разоружить компьютерные сети, что способно оставить мегаполисы без света, воды и тепла и вызвать массовую панику или другие нужные создателям вируса настроения. Революционные, например.

Но это одна сторона информационной медали. Другая – в 2005 году мировой объем рынка информационной безопасности достиг $14 млрд, и доход (при росте 23% в год) составил $3,2 млрд. В этой продукции примерно 5% труда россиян. Если учесть, что стоимость мирового рынка всех информационных технологий сегодня приближается к объему в $1 трлн., то ежегодные потери от утечки «информационного ресурса» – утечка мозгов, продажа не конечного продукта, а интеллектуального сырья – соизмеримы с бюджетом России. Транснациональные корпорации все устраивает. Они предпочитают российский «интеллектуальный ресурс» именно на этапах интеллектуальной эмиграции или продажи сырья – самых не защищенных авторскими правами этапах, когда стоимостные потери гораздо выше, чем при традиционной продаже природных ресурсов сырой нефти, газа, металла. Понимаете? Главная опасность – не развитие искусственного интеллекта, а его недоразвитие, которое может нас отодвинуть в каменный век.

– Может случиться так, что теория «Информограда» в России останется невостребованной, а практикой станет где-нибудь за границей, где уже трудятся десятки тысяч отечественных программистов?

– Надеюсь, нет. Хотя еще 15 лет назад наша страна занимала второе место в мире в области информационных технологий, а сегодня плетется во втором десятке. Так происходит потому, что с нынешней федеральной программой по технопаркам, рассчитанной на 2006-2010 годы, происходит то же, что и раньше. Она профинансирована из бюджета на 123 млрд. рублей. Но как! На практике чиновники бурно делят бюджет – копают котлованы, что-то строят, закупают недешевое оборудование, мотаются по фуршетам «инновационных конференций»…

Запад может эволюционно наращивать мощности, но этот путь не для нас: опоздали. Наш шанс – не догонять, а упредить и обойти их на качественно новом этапе развития. У нас на это есть кадры, но нужна воля.

Владимир Емельяненко

Журнал «Профиль», №42 (550), 12.11.2007

Печатается с сокращениями

Наш комментарий. На недавней встрече в одном из клубов был затронут вопрос создания искусственного разума (ИР). Некоторые из участников обсуждения высказали мнение, что это принципиально невозможно. Такая точка зрения достаточно логична для верующего человека: все сущее создано Богом, Он создал и человека, наделив его, в отличие от животных, разумом. Откуда же может взяться разум у машины? Самое смешное состоит в том, что теория марксизма-ленинизма – казалось бы, самая материалистическая теория в мире, – тоже отвергала возможность создания ИР. Почему, понятно: верные ленинцы отвергали все, что, как они интуитивно чувствовали, способно покончить с ними…

Предлагаемая статья, на наш взгляд, неоспоримо показывает, что создание ИР не только возможно, но и является делом довольно близкого времени. И почему бы нет? Попробуйте ответить на такой «простой» вопрос: что есть наше сознание? Если отвлечься от «божественного» ответа, остается, по-видимому, только примерно такой: оно, как и другие наши способности, есть продукт эволюции живой природы, эффективный механизм приспособления вида Homo Sapiens к условиям меняющейся среды обитания.

Реакция на воздействие среды присуща уже объектам неживой природы. Наука отразила это в принципе Ле Шателье (если мне не изменяет память), который звучит примерно так: воздействие окружающей среды на объект вызывает в нем изменения, препятствующие дальнейшему воздействию. Так, на поверхности металлов возникает пленка окисла, которая не допускает дальнейшего его окисления (только на золоте эта пленка прочная, а на железе – рыхлая, почему оно все же ржавеет). Той же природы и пленка на молоке, которое вы кипятите, и т. д.

В живой природе реакция становится более активной. Уже одноклеточные организмы стараются переместиться из менее благоприятных мест водоема в более благоприятные (по температуре, химическому составу). В многоклеточных организмах реакции на воздействие среды осуществляются через нервную систему. В дальнейшем природа методом проб и ошибок привела к формированию сгустков нервных клеток, из которых путем их слияния сформировался мозг. «И увидела природа, что это хорошо», то есть, что ее творения, обладающие мозгом, более жизнеустойчивы. 

У низших животных реакция на воздействия среды осуществляется, как в «черном ящике»: на вход поступил сигнал о повышении в данном месте температуры, на выход выдается сигнал перемещаться в направлении понижения температуры. Все происходит автоматически, без «осознания» происходящего: некому (или нечему) его осознавать.

По мере усложнения мозга, то есть увеличения числа составляющих его нейронов и связей между ними, возникает то, что мы называем «сознанием». Это означает, очевидно, что в системе (в мозгу) появляется возможность выбора реакции на внешние воздействия. Вот этот процесс перебора вариантов реакции и воспринимается нами как «сознание», «разум». Заметим: параллельно у нас сохраняется и «подсознание» – система, которая действует автоматически, как и у низших организмов.

Так вот, какие имеются принципиальные препятствия для того, чтобы и в искусственно созданных системах по мере их усложнения сформировались «сознание», «разум»? По-видимому, никаких. Только искусственные системы пройдут путь «от амебы до человека» неизмеримо быстрее.

Мы позволим себе только не разделить оптимизм Владимира Ильича относительно того, что «неограниченное количество материальных ресурсов Вселенной не дает основы для конфликта между искусственным разумом и человеком». Это мы, своим примитивным умом, так считаем. А у более высокого ИР могут найтись и более высокие резоны. И он уж позаботится, чтобы эти примитивные существа не могли «вынуть штепсель из розетки»…