Наука

Роботы, умные компьютеры –

благо или смертельная угроза?

«Daily Telegraph», 27.02.2008. Ник Флеминг в статье «Войны роботов в ближайшие 10 лет станут реальностью»: Профессор Шарки, широкой публике известный прежде всего как судья из телевизионного шоу Robot Wars на канале ВВС, сказал: «Сейчас очень активно ведутся разработки автономных роботов, предназначенных для выполнения все более сложных заданий. Мы стремительно движемся к созданию роботов, которые смогут самостоятельно принимать решение о применении силы со смертельным исходом. Мне кажется, что речь может идти о ближайших десяти годах. Если автономные роботы появятся у какой-нибудь одной страны, очевидно, что ее примеру последуют и остальные». В прошлом году министерство обороны США опубликовало план, согласно которому в ближайшие 25 лет на развитие воздушных, наземных и подводных роботизированных систем будет направлено 12 млрд. фунтов.

«Томский обзор», 7.11.2008. Уэнди Гроссман в статье «Смогут ли машины перехитрить человека?»: По мнению ученых, точка «сингулярности» – момент в будущем, когда искусственный интеллект превзойдет человеческий, – ближе, чем мы думали. Этот вопрос обсуждался на «Саммите по сингулярности», который прошел в конце октября в Сан-Хосе.

Назывались разные даты прохождения человечеством точки сингулярности: Вернор Виндж, который в начале 1980-х позаимствовал этот термин из обихода астрофизиков, говорил о 2030 годе; физик из Массачусетского технологического университета Нейл Гершенфельд, разрабатывающий программируемую материю, отводит на это ближайшие двадцать лет, то есть точка сингулярности, по его мнению, будет пройдена в 2028 году; Рэй Курцвайль ожидает, что знаменательный момент наступит в 2045 году, старший технический специалист Intel Джастин Раттнер – что не позже 2050 года.

Корреспондент пишет, что эти даты могут иметь значение для каждого человека, поскольку прохождение точки сингулярности, как думают некоторые, позволит с помощью искусственного интеллекта обратить вспять проблему старения и в конечном итоге найти ключ к бессмертию. Кроме того, от искусственного интеллекта ждут решения проблем глобального потепления и истощения энергоресурсов. Такого рода надежды «придают саммиту атмосферу религиозного движения».

Newsru.com Технологии, 20.11.2008. «Разработаны шесть правил, которые спасут человечество от власти роботов»: Прогресс последних десятилетий привел к появлению целого ряда «умных» машин, которые с течением времени только повышают свои «интеллектуальные» способности. Одновременно с этим происходит и расширение профессиональных навыков роботов – они учатся управлять автомобилем, помогать в уходе за пожилыми и больными, и даже осваивают целый ряд военных специальностей: разведчики, саперы, пехотинцы и пр.

Чтобы интегрировать умнеющих на глазах роботов в человеческое общество, необходимо соблюдать шесть правил, которые снизят опасность, исходящую от этих машин. Таково мнение Вендела Уолока, специалиста по этике из Йельского Университета, и Колина Алена, историка и философа из Университета штата Индиана (США).

Правило первое: не доверять роботам задач, которые связаны со значительным риском для общества. Другими словами, действия роботов должны быть предсказуемыми, а возможность катастроф сведена к минимуму. Однако уже сейчас поведение вычислительных систем не всегда возможно прогнозировать, а в будущем, по мере усложнения интеллектуальных способностей роботов и компьютеров, их «самостоятельность» будет только повышаться.

Правило второе: ни при каких условиях не доверять роботам оружие, и/или не предоставлять им управление вооружением. К сожалению, предотвратить появление боевых роботов невозможно – уже разработаны и поставлены на вооружение полуавтономные роботизированные установки, в небо подняты беспилотные летательные аппараты, а несколько единиц боевых роботов были посланы в Ирак, пусть и для ознакомления с их возможностями.

Правило третье: соблюдение трех законов робототехники Азимова. Знаменитые законы Айзека Азимова должны обеспечить безопасное сосуществование роботов в человеческом обществе, избежать несчастных случаев и злоупотребления роботами своими возможностями. Однако подводным камнем является тот факт, что Азимов специализировался на научной фантастике и не имел опыта в роботостроении, а значит, его законы лишены научной базы. Более того, сам автор в своих произведениях описывает ситуации, когда сформулированные им правила перестают работать в нужном направлении.

Правило четвертое: программирование роботов с учетом целого ряда условий и принципов. Одним из таких принципов должен являться принцип максимально полезных действий – то есть, выбирать из целого ряда возможных поступков лишь те, которые принесут пользу как можно большему количеству людей. С другой стороны, следуя этому принципу робот может принести в жертву жизнь одного человека, чтобы спасти жизнь пятерых. Сегодня же ни один врач не способен за счет убийства одного человека спасти жизнь и здоровье других пациентов, реализация столь высоких моральных качеств – одна из главных проблем, которая встанет перед робототехниками в будущем.

Правило пятое: постоянное обучение роботов. Это позволит «умным» машинам гибко изменять свое поведение с течением времени, анализировать собственные действия, выбирая из них правильные и ошибочные. Впрочем, достижение указанной цели невозможно без целого ряда технологических прорывов, ведь уровень развития современной науки не позволяет создавать действительно мыслящих и анализирующих роботов.

Правило шестое: наделение роботов основным набором эмоций. Подобная «функциональность» крайне необходима для интеграции роботов в человеческое общество – машины должны с легкостью распознавать эмоции человека, на основании чего выбирать собственную стратегию поведения. Ведь не секрет, что значительная часть информации, необходимой для успешного общения человека с себе подобными, передается за счет выражения лица, языка жестов – все это должны с легкостью воспринимать и роботы. И хотя эта задача очень сложна в реализации, уже сейчас наблюдаются подвижки в создании роботов, способных распознавать эмоции. То есть, задача не является невыполнимой.

Newsru.com Технологии, 25.11.2008. «IBM работает над созданием искусственного мозга. На первый этап работ Пентагон выделил 4,9 млн. долларов»: Компания IBM объявила о начале работы над компьютером, работающим по принципу мозга. Новая технология может быть использована при крупномасштабном анализе данных, опознании изображений и объектов и даже независимом принятии решений, сообщает британская телерадиокорпорация BBC.

«Человеческое сознание обладает уникальной способностью анализировать информацию, полученную через разные органы чувств. Мозг способен с легкостью создавать новые категории времени и пространства и интегрировать в них информацию, полученную сенсорно. На сегодняшний день ни одна из существующих компьютерных технологий даже не приблизилась к удивительным способностям этого органа. Основная идея когнитивной компьютерной технологии состоит в том, чтобы, воссоздав структуру, динамику, функции и реакции человеческого мозга, сконструировать аппарат, действующий по тем же принципам», – говорит руководитель исследования Дармендра Модха.

Разработки в области компьютерных технологий уже позволяют симулировать деятельность мозга небольшого млекопитающего. В прошлом году профессор Модха руководил работой по имитации мозга мыши. Для этого потребовалось 55 млн. искусственных нейронов и полтриллиона межнейронных синапсов.

Исследование финансируется из государственного бюджета США. Для участия в проекте IBM объединяет ведущих психологов, нейробиологов и специалистов в области компьютерных технологий из пяти ведущих университетов США. На первый этап работы Управление научных исследований Пентагона выделило 4,9 млн. долларов.

Подобные эксперименты стали возможны совсем недавно. Только сейчас ученым удалось достигнуть плотности нейронного материала, сопоставимой с мозгом животного – 10 млрд. нейронов на квадратный сантиметр. «Проблема кода межнейронных связей и искусственного интеллекта в целом состоит в том, что ее создатели отталкивались от ограниченного круга задач», – говорит он. – Мы же разрабатываем универсальный алгоритм, что в разы расширит круг возможностей компьютера-мозга» – говорит профессор Модха.

Синапсы, или межнейронные связи нейронов мозга, создаются, распадаются, укрепляются или ослабевают в зависимости от деятельности мозга. Одна из главных трудностей исследования – разработка материала, который сможет воссоздать эту особенность мозга. Если эта проблема будет решена, то в отличие от существующей технологии, позволяющей лишь запрограммировать искусственный мозг на решение той или иной задачи, компьютер сможет на основании накопленных знаний, памяти и «опыта» анализировать данные – то, что мы называем способностью думать.

«Independent», 4.02.2009. Эд Хоукер в статье «Расцвет машин, конец человечества?»: Могут ли компьютеры будущего вытеснить людей и уничтожить жизнь на Земле?  Вот что говорит по этому поводу футуролог Рей Курцвайль: «В скором времени небиологический разум по своему масштабу и тонкости будет соответствовать человеческому уму. Затем последний станет отставать из-за непрестанного развития информационных технологий, а также из-за способности машин постоянно делиться между собой своими знаниями. Интеллектуальные нанороботы будут интегрированы в наши тела, в наш мозг... Результатом станет тесное слияние видов, создающих технологии, с технологическим эволюционным процессом».

И это только начало. Вскоре после этого, утверждает Курцвайль, «небиологический разум получит доступ к нашему строению и сможет самосовершенствоваться с помощью быстрого переустройства. Мы дойдем до точки, когда технический прогресс станет таким быстрым, что неусовершенствованный человеческий разум не будет успевать за ним».

Миллиардер Билл Джой, один из основателей Sun Microsystems считает: «Ящик Пандоры уже открыт. Идеи нельзя спрятать обратно в ящик». Развитие нанотехнологий неизбежно приведет к опасности уничтожения биосферы, от которой зависит вся жизнь на Земле, полагает он.

Некоторые выражают обеспокоенность, что, даже если мы сможем контролировать разум роботов, он сможет уничтожить нас по ошибке. Например, мы можем попросить его выполнить комплексные вычисления, а он в ответ превратит все вещество на планете в вычислительную машину.

«Daily Mail», 12.08.2009. Майкл Хенлон в статье «Создание компьютера с человеческим мозгом не за горами?»: Группа швейцарских ученых во главе с Генри Маркремом – так называемый проект «Синий мозг» (Blue Brain) – уже пять лет занимается конструированием мозга млекопитающего, самого сложного из известных объектов Вселенной, с помощью мощнейших суперкомпьютеров. В июле Маркрем заявил на научной конференции в Оксфорде, что планирует создать электронный человеческий мозг в ближайшие 10 лет.

Но как научить машину мыслить? Да, человеческий мозг имеет много общего с компьютером: он обрабатывает данные, поступающие в него извне, и может хранить поразительные объемы информации. Но он также позволяет человеку осознавать себя, чувствовать и размышлять, а даже суперкомпьютеру это недоступно.

Традиционно считалось, что мозгу дает жизнь душа, а в машине ее быть не может. Но в наше время немногие ученые полагают, что духовное и материальное – явления принципиально разные. Более того, большинство нейрофизиологов считает наше сознание и чувства результатом бессчетных электрических и химических импульсов, пробегающих по нервным клеткам. Если сконструировать нечто, действующее в точности как человеческий мозг, сознание возникнет само.

Многие нейрофизиологи утверждают, что человеческий мозг для моделирования слишком сложен. И все же группа Маркрема надеется воспроизвести на компьютере деятельность 100 млрд. нейронов человеческого мозга. Тем самым фактически будет создан «мозг в пробирке»: сознающий себя, способный чувствовать, страдать, хотеть. Следовательно, встанет вопрос о правах этого мозга: равносильно ли его отключению убийству, а эксперименты над ним – пыткам?

MIGnews.com, 26.08.2009. «Роботы учатся лгать»: Насколько важно, чтобы компьютеры и роботы говорили нам правду? Или же они должны научиться врать – как и их создатели из плоти и крови?

В опыте, проведенном в одной из швейцарских лабораторий, 10 роботов со специальными датчиками соревновались за получение «пищи» – светлого кольца на полу. На другом конце помещения было помещено темное кольцо, означавшее «яд». Роботы зарабатывали очки в зависимости от того, сколько времени они проводили вблизи «продуктов питания», а не рядом с ядом.

Экспериментаторы – инженеры Сара Митри и Дарио Флореано, а также эволюционный биолог Лоран Келлер – «наградили» роботов способностью общаться друг с другом. Каждый робот имел возможность включать синий свет, который могли видеть другие, и который свидетельствовал о нахождении светлого кольца с «пищей». Со временем роботы эволюционировали, научившись обманывать друг друга.

«New Scientist», 12.09.2009. «Ученые приступили к созданию „живого“ робота – в машину вживят клетки мозга»: Передовые лаборатории Запада приступили к работе над новым поколением роботов, которые управляются с помощью искусственного разума, созданного на основе клеток головного мозга человека. Ряд научных центров Великобритании уже имеет опыт создания систем управления роботами, включающими головные клетки крыс. Сейчас они начинают работать с нервными клетками человека.

При этом в странах Запада нет ограничений на эксперименты с человеческими нейронами, в том числе входящими в структуры головного мозга. Нынешними исследованиями заинтересовались крупнейшие оборонные компании, которые разрабатывают новые системы боевых роботов. Специалисты не исключают, что в ближайшие годы будет создан новый вид управления оружием, который станет объединением компьютерной технологии и биологических интеллектуальных центров, выстроенных из человеческих нейронов.

Наш комментарий. Нет сомнений в том, что все, что принято называть «духовным», является производным от материального. Человек, в конечном итоге, произошел от амебы. Амеба думать не умеет. Способность думать у живой материи возникла тогда, когда мозг человека (и, возможно, в зачаточном виде у высших животных) в ходе эволюции достиг определенной степени сложности, что выражается числом нейронов и связей между ними. Когда компьютерная техника достигнет такой же степени сложности, как верно говорится в одной из приведенных выше статей, сознание, или способность думать, возникнет сама.

И вполне вероятно, что искусственно созданный разум сможет самосовершенствоваться и со временем превзойдет наш естественный. И какие бы уловки мы в их конструкцию не закладывали, они сумеют их обойти и стать полностью от нас независимыми. И все же главная опасность даже не в этом – она в нас самих. Прочтите внимательно приведенные выше «правила, которые спасут человечество от власти роботов». Да ведь сами их составители не верят в то, что человечество будет их соблюдать.  Особенно ярко это подтверждается тем, что наибольший интерес к созданию искусственного интеллекта и созданным на его основе роботам проявляют военные ведомства. Наши собственные качества – эгоизм, разобщенность, лживость – вот главная опасность для существования человечества. И, конечно же, если мы хотим, чтобы роботы походили на нас, надо срочно обучить их лгать. Как вы видели, в этом святом деле уже имеются первые успехи.

Но не надо сильно огорчаться. Вполне возможно, что это заложено в алгоритме мироздания: биологическая эволюция в конечном итоге создает человека разумного, а он уже создает гораздо более разумную небиологическую форму жизни. Может быть, эта форма даже оставит на Земле и для нас уголок. Пытаемся же мы сохранить на планете уголки для обезьян и более далеких наших предков…