Наберите в поисковике словосочетание «робот научился», и вы будете удивлены количеством самых нетривиальных задач, которые сегодня умеют решать машины: они ездят на велосипеде, жонглируют, дерутся на мечах и пекут блинчики. Но за каждым из «умных» чудес техники стоят люди, которые учились их создавать. О том, какие задачи стоят перед конструкторами современных роботов, почему нас еще не окружают андроиды, и какие бонусы ждут студентов-робототехников после окончания вуза, рассказывает выпускник и преподаватель Университета ИТМО Антон Пыркин, недавно успешно защитивший диссертацию на соискание ученой степени доктора технических наук.
Насколько сейчас востребованы робототехника и ее преподавание в вузах?
Ее актуальность сегодня поистине огромна. Всю технику — телефоны, автомобили — сегодня собирают роботы. Многие об этом не задумываются, но если вы придете на современный завод, то увидите тысячи роботизированных манипуляторов. Типичный пример: выпускник нашей кафедры Валерий Гаврилюк возглавляет компанию «Термекс», которая конкурирует с ведущими мировыми производителями. «Термекс» производит водонагревательные котлы, и эти котлы целиком и полностью собирают роботы. Человек там присутствует только для того, чтобы наблюдать, как роботы выполняют технологическую цепочку, чтобы не было сбоев и сохранялся нормальный режим работы.
Дело даже не в том, что сбор котлов или телефонов — это настолько сложный технологический процесс, что человек его выполнить не может. Просто если операцию, которую нужно за день выполнить десятки тысяч раз, будут выполнять люди, то это достаточно дорогое удовольствие. К тому же есть риски, связанные с человеческим фактором, а робот — это техника, детали работы которой можно целиком предусмотреть на стадии разработки системы управления.
Роботы нужны для того, чтобы решать сложные технические задачи, которые человек выполнять по каким-то причинам не может: поднять тяжесть, пролезть куда-то. И это очень интересные игрушки. В моем детстве, например, «гремели» японские мультфильмы про трансформеров. Правда, нынешние студенты знакомы с ними скорее по фильмам.
Может быть, никто не воспринимает промышленные манипуляторы как роботов именно потому, что в массовой культуре робот — это что-то человекоподобное?
Андроиды — это очень популярная тема, самых известных из них долгое время делали в Японии. Мы даже отправляли наших студентов на стажировку к японскому профессору, который делал точные копии людей. Но в целом это дорогостоящее удовольствие с сомнительной выгодой, японцы в нем разочаровались. Они вкладывали в них гигантское количество денег, но выяснили, что люди их воспринимают не очень хорошо. Человек мгновенно идентифицирует человекоподобного робота, понимает, что это не человек, и эмоции, которые он начинает испытывать — это не радость, а скорее страх: вдруг схватит и что-то сделает. А месяц назад японцы закупили российских роботов на 1,5 млн долларов.
На какой позиции относительно других стран находится российская школа робототехники?
Достаточно прочные лидирующие позиции занимают школа и методика, автором которых является Марк Спонг , профессор Техасского университета в Далласе. Его учебник — самая цитируемая книга по робототехнике. Мы сейчас готовим своеобразный ответ, свой российский учебник, который, как мы надеемся, будет таким же удобным и полезным, и будет сразу давать весь нужный инструментарий. Еще на нашей кафедре была создана компания RoboEd , которая делает образовательный продукт — базовый курс робототехники для школьников. Профессиональных курсов подобного уровня до RoboEd не существовало, были только любительские подходы. Кроме, пожалуй, школы Сергея Александровича Филиппова из физико-математического лицея № 239 , который ведет там курс робототехники. Его мы тоже привлекли к созданию контента для нашего курса, чтобы вместе сделать нечто более интересное и привлекательное для российского и международного рынка. Мы создаем образовательное решение для школьников с разным уровнем подготовки, для младших и старших классов, и планируем переводить его на другие языки.
Я бы сказал, что в целом позиции у нас достаточно прочные: наши студенты ездят на международные соревнования и занимают там призовые и первые места. Но даже в Санкт-Петербурге школы разные, у них разный уровень. В Университете ИТМО относительно молодая школа — робототехника как образовательное направление развивается здесь только четыре года, а ранее мы больше занимались автоматикой и телемеханикой. Хорошо известен Центральный НИИ робототехники и технической кибернетики (ЦНИИ РТК). Это предприятие федерального уровня, и если вы посмотрите на автомобили, которые стоят там на парковке, то поймете, что робототехника — это не просто интересное и нужное, но еще и очень прибыльное занятие. Получая хорошее образование в этой области, вы обеспечиваете себе хороший заработок, как в России, так и за рубежом. Я преподаю свой курс на русском и на английском языке, и стараюсь, чтобы мои студенты получали самые современные знания в робототехнике.
Почему тогда нет известных российских роботов, в то время как многие слышали про BigDog и Asimo? Наши разработчики не умеют рекламировать то, что они делают?
Не забывайте, что BigDog — это продукт военного бюджета США. В него было вложено около 27 млрд долларов и 20−30 лет непрерывной работы. Неприятный сюрприз в том, что он работает на двигателе внутреннего сгорания. Это очень шумная штука, то есть если она предназначалась для того, чтобы незаметно переносить какие-то грузы, она для этого явно не подходит. Хотя с точки зрения науки это потрясающая вещь, ее делали специалисты высшего уровня.
У нас была сильная школа, но в девяностые произошел страшный отток специалистов. Если вы посмотрите на норвежские, шведские, американские, французские научные группы, на тех разработчиков, которым по 40−60 лет, то увидите людей, которые должны были бы строить BigDog здесь, у нас. Люди, которые были драйверами развития инженерной мысли в России, уехали и стали драйверами в других регионах. Кроме того, вы можете просто не узнать российские бренды — с маркетинговой точки зрения выгоднее выбирать англоязычные названия. Поэтому вместо робота «Матрешка» вы увидите xTurion , который, кстати, делает другая наша коммерческая структура. Сергей Колюбин сейчас заканчивает стажировку в Норвежском технологическом университете, буквально этой зимой должен вернуться с дипломом доктора наук. Его проект победил 40 международных коллективов на Skolkovo Robotics Challenge, мы работаем над дальнейшим развитием этого проекта.
В целом мы сейчас сравниваем легкоатлета, который бежит в кроссовках по беговой дорожке, с человеком в кирзовых сапогах, который бежит по асфальту. Но второй может обогнать благодаря волевым качествам. На нашей кафедре был профессор Илья Васильевич Мирошник , который в качестве девиза пропагандировал цитату из Кэрролла: чтобы оставаться на месте, нужно бежать со всех ног, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее. Нужно много работать, и тогда будет результат. Я прикладываю столько усилий, сколько могу, привлекаю молодежь и нахожу средства, чтобы вознаграждение за их работу было не просто приятным поощрением. Они получают зарплату выше средней по Санкт-Петербургу и ощущают, что не зря сюда пришли.
Какие сферы приложения и задачи в робототехнике еще только предстоит решить?
Робот — это просто груда железа и проводов, и чтобы он выполнял фокусы, надо прикладывать массу усилий. Нерешенные задачи, как правило, ориентированы на технологический процесс. Например, ваша задача может быть в том, чтобы робот взял сотовый телефон и переложил его на другое место, не раздавив при этом. Все популярные видеоролики о том, как плавно и деликатно роботы выполняют что-либо — это, как правило, очень хорошо подготовленные одноразовые эксперименты. Не существует готовых решений того, как двум роботам взять одну деталь, как ориентироваться по видеокамерам внутри помещения, и так далее. В рамках xTurion мы как раз над этим работаем — создаем совершенную систему навигации, которая обрабатывает и комплексирует данные с нескольких камер, лазерных дальномеров, сонаров.
Еще огромные проблемы появляются, как только робот оказывается в экстремальных условиях — под водой, в космосе. Если дело касается прикладной области, возникает масса сложностей, связанных с запаздыванием, техническим зрением, возмущающими воздействиями, неопределенностью, невозможностью куда-то проникнуть, измерить, передать данные. Нельзя сказать, что люди, которые придут в робототехнику завтра, не смогут найти, чем заняться, — задач масса. Но в первую очередь им нужно будет освоить серьезный багаж знаний: геометрию, дифференциальную алгебру, массу разных аспектов естественных наук, специализированную литературу и справочники. Но это стоит того — образование в сфере робототехники открывает невероятные возможности, и при этом не ориентирует на какое-то определенное место работы. Вы станете специалистом широкого профиля. Если вы владеете материалом и знаете, как управлять многозвенными динамическими системами, то вы не обязаны работать с роботами-манипуляторами на заводе. Это еще и надводные суда, подводные аппараты, ледоколы и так далее, технология синтеза законов управления везде практически одинакова.
Теоретики искусственного интеллекта пророчат наступление технологической сингулярности уже в ближайшие годы. Вы можете предсказать, когда наступит «робобум» и роботы действительно будут везде?
Роботы и так уже везде, хотя это произошло не вполне заметно. Коробки передач в современных автомобилях, как правило, автоматические и роботизированные, инжекторные двигатели внутреннего сгорания умеют определять, в каких пропорциях составлять воздушно-бензиновую смесь. Кладете вещи в стиральную машину — она определяет их вес и пересчитывает алгоритм, чтобы вы достали чистое и сухое белье независимо от того, сколько загрузили.
Конечно, фантасты не так воображали будущее. Когда я в 2002 году поступил в Университет ИТМО, у меня был телефон Nokia 3310, он тогда стоил очень дорого и не был настолько необходимой вещью, как сейчас. А сейчас уже никого не удивляет, каждый из нас носит в кармане целый компьютер. Через пять-десять лет роботов будет гораздо больше, их уже не будут воспринимать как нечто из ряда вон выходящее. Мир не стоит на месте, и я надеюсь, что научно-технический прогресс будет развиваться и помогать нам жить еще лучше.
Беседовал Александр Пушкаш ,
Редакция новостного портала Университета ИТМО
В недалёком будущем, сообщают нам футурологи, создадут по-настоящему мощных роботов, которые сами научатся делать и ремонтировать других роботов. Рано или поздно они смогут воспроизвести и себя самих. Тогда-то нам и наступит конец. Людей, которые говорят, что так и будет, много - тот же Илон Маск или Стивен Хокинг. Носителей таких взглядов роднит одно: они прискорбно мало знают о современных роботах и компьютерах.
Начнём с основ: все известные на сегодня компьютеры, "мозги" любых возможных роботов - это алгоритмические машины. Всё, что они могут - выполнять алгоритмы. До тех пор, пока эти алгоритмы пишут люди, рамки возможностей компьютеров и роботов остаются крайне узкими. Понятно, что даже простая работа может иметь миллионы нюансов, которые в алгоритмы не заложишь. Поэтому были придуманы нейросети с глубинным обучением.
Нейросеть - это программа, копирующая принцип биологических нейронных сетей - из живых нервных клеток. В отличие от обычного ПО нейросети, строго говоря, не программируются, а "обучаются". В процессе "обучения" им "скармливают" пары связанных массивов данных. Например, образец первой половины произвольного предложения в паре с образцом второй половины того же предложения. Сличая их общие черты, нейросеть способна выявлять сложные зависимости между членами каждой пары данных и обобщать результаты своих "наблюдений". После успешного обучения сеть сможет дать на выходе сходный результат на основании ввода новых исходных данных, которые отсутствовали в обучающей выборке. К примеру, ей дадут первую часть предложения, а она выдаст вторую в том же стиле. В конце концов она может выдать даже полное предложение, стилизованное под тексты, на базе которых её обучали.
Именно такие системы в последние годы предлагают для замены поэтов и журналистов. , замена не удалась. Нейросеть не понимает (в силу отсутствия сознания), что именно в неё поступает и что именно она выдаёт. Поэтому смысловые связи между отдельными понятиями она не учитывает. Когда ей "заряжают" задание на стихи, она на выходе выдаёт текст, лишённый реального смысла, хотя грамматически и похожий на нормальный. Прилично получается только для написания биржевых "новостей": чтобы после цифр падения курса акций написать "снижение связывают с неуверенностью биржевых аналитиков в перспективах компании Х", мозги не нужны. Достаточно и алгоритмов с нейросетями.
Часто не лучше дела и в физическом труде. Да, робот может класть кирпич, но либо медленнее человека, либо быстрее, но не так аккуратен. В итоге за одним робокаменщиком исправляют мелкие ляпы сразу несколько рабочих:
Возникает вопрос: можно ли сделать алгоритмическую машину - на простых или "нейросетевых" алгоритмах - так, чтобы она понимала, какую именно информацию обрабатывает? В теории - да. Но для того, чтобы она что-то понимала, программа должна обладать сознанием, осознанием самой себя и мира вокруг, пониманием того, что она существует и обладает собственной волей. Как это сделать - сегодня не известно, потому что мы, на самом деле, не очень понимаем, как работает наш мозг. И уж точно не можем воспроизвести его работу. Лучшие нейросети, имеющиеся сегодня, - это лишь внешние копии нейронных сетей. Мы бы и рады скопировать лучше, да техника не позволяет.
Ближайший к естественному мозгу человеческий проект - Blue Brain . С помощью суперкомпьютеров в нём пока удалось воспроизвести треть кубического миллиметра мозга крысы. Вроде бы получается. Правда, проблема в том, что в нашем мозгу далеко за миллион кубических миллиметров, а на Blue Brain уже потрачен миллиард евро. Как мы видим, даже создание аппаратной копии мозга одного человека - крайне сложная задача. Учитывая, что рост производительности процессоров в последние годы резко замедлился, вообще не известно, разрешима ли она. Вдобавок сама по себе такая копия ничего не даст. У слона мозгов больше, чем у нас, но интеллекта меньше. Почему? Строго говоря, точный ответ на этот вопрос не очень понятен. Очевидно, есть ещё что-то, кроме самих нейронов и сети, которую они составляют. Но что именно - не известно.
Что значит всё описанное выше? В первую очередь, то, что никакого настоящего искусственного интеллекта на сегодня не существует. А то, что есть, отличается от нашего интеллекта больше, чем резиновая женщина - от живой. Есть системы, натасканные на решение однотипных задач по а) заложенным в них простым алгоритмам (софт до нейросетей), б) копирующие алгоритмы из наборов данных, которые в них закладывают (нейросети).
Это очень, очень узкоспециализированные программы, не имеющие ничего похожего на собственное сознание. Поведение большинства животных заметно сложнее, чем самого лучшего робота из созданных людьми. Обычный муравей, столкнувшись с нетипичной задачей (не заложенной в его "алгоритмы") и не имея никакого набора данных для "обучения" (копирования), запросто решит сложную задачу, попутно изобретя орудия труда. Даже самые лучшие роботы пока к ним и приблизиться не могут:
Итак, современный робот - это не муравей. Скорее, это сложный и специализированный инструмент, аналог молотка. Только очень продвинутого. Человек с молотком может забить гвоздь быстрее, чем без молотка. Но скольких людей молоток за свою историю сделал безработными?
Как машины "оставляли людей без работы"
Опасения, что машины отберут у человека его рабочее место, появились даже не позавчера. Уже в 1811 году находились особо одарённые личности (луддиты), которые призывали ломать ткацкие станки, позволявшие одному ткачу заменить сразу десятки. Мысль была та же: машины уменьшают количество потребного труда, из-за чего излишки рабочей силы сразу оказываются на улице. Вроде бы логично.
Проблема этой истории в том, что движение луддитов началось в 1811 году, когда число рабочих в Британии было на подъёме. Самая массовая отрасль тех лет - текстильная, а её центр - Манчестер, где почти всё мужское население работало на текстильных фабриках. И если в 1800 году в Манчестере жило 89 000 человек, то к 1820 году - 180 000. К 1851 году их было 400 000 человек. Хуже того: внедрение машин сопровождалось... резким повышением количества рабочих часов и массовым привлечением детского труда. "Проклятие нашей системы фабрик в том, что по мере улучшения в производящих машинах жадность хозяев заставила многих требовать от рабочих рук большего, чем им назначено работать природой", - повествовал на слушаниях в британском парламенте в 1833 году эксперт по этому вопросу.
Людей заставляли вкалывать по 71 часу в неделю, и Британии впервые пришлось законодательно строго ограничивать число часов, сбавив их до 69 (сегодня - всего 40). Половина работников фабрик начала работать детьми, многие в возрасте четырёх лет! Налицо парадокс: машины должны были всех выгнать на улицу, откуда такой резкий рост числа рабочих? Откуда безумные переработки и дефицит рабочих рук, настолько жестокий, что пришлось привлекать детей?
Представим, что мы внедрили на всех текстильных предприятиях новые технологии, которые уменьшили количество нужных работников в 10 раз. Что произойдёт? Если мы взглянем в структуру стоимости любого промышленного товара, то увидим, что основную часть её составляет труд промышленных рабочих. Уменьшение затрат труда на порядок приведёт к заметному падению цены на товар. То же самое случилось и во всех других отраслях. Машинный обмолот зерна и жатки, а затем и импорт зерна на пароходах снизили цены на еду. "Заработки оставались стабильными, но цены на промышленные и сельскохозяйственные товары упали из-за промышленной и сельскохозяйственной революции", - констатирует известный историк экономики Хартвелл.
Резко упавшие цены привели к колоссальному росту потребления. В Англии XVII–XVIII века одежда была просто слишком дорогой, чтобы массы её покупали. Доминировавшее тогда сельское население ткало одежду само, долгими зимними вечерами, благо сеять и жать зимой всё равно не получится. Уже в XIX веке это потеряло всякий смысл: заводская одежда стала слишком дешёвой. Да и сами жители страны, большинство из которых стали горожанами, зимой работали не меньше, чем летом. Колоссальный рост спроса заставил привлекать на текстильные фабрики всё новых и новых рабочих, и абсолютное их количество так и не начало сокращаться.
В том месте, где такие технологии внедрили первыми, занятость не падала, как боялись луддиты, а росла - ведь более дешёвый товар захватывал всё новые рынки. Индия, а затем и Китай были завалены манчестерскими тканями и одеждой к середине XIX века. Манчестер к этому моменту производил 40 процентов всего текстиля мира. Там, где новых технологий не внедрили, наступил закономерный упадок. Но только до тех пор, пока и туда не пришли эти самые технологии. В самом деле, британских тканей кругом не видно. А вот Китай и Индия снова стали крупными производителями текстиля.
"Лет шестьдесят или восемьдесят тому назад это была страна... с редким, преимущественно земледельческим населением. Теперь это страна с колоссальными фабричными городами, с промышленностью, снабжающей своими изделиями весь мир и производящей почти всё при помощи самых сложных машин; …население, две трети которого заняты в промышленности", - сообщает Энгельс в "Положении рабочего класса в Англии".
В принципе, любой учебник экономики может объяснить случившееся. Сам предмет экономики - использование ограниченных трудовых и сырьевых ресурсов оптимальным образом, так, чтобы обеспечить на их основе производство максимального количества товаров и услуг.
Когда в какой-то отрасли из-за автоматизации внедряется больше машин (или роботов), их надо откуда-то взять, их надо кому-то обслуживать. За счёт этого резко растёт спрос на тех, кто будет делать эти машины, - а также тех, кто делает металл и добывает энергоносители, без которых станки или роботов не построишь. Больше нужно и строителей - ведь фабрик и железных дорог для них тоже приходится строить куда больше.
В XIX веке количество жителей Британии выросло вчетверо, с 10 до 40 миллионов, но доля рабочих среди них росла опережающими темпами. Текстильная промышленность стала нуждаться в рабочих меньше, а вот промышленность в целом - больше. Число занятых в ней выросло в десять раз - и внедрение машин не только не помешало этому, но и, по сути, сделало рост возможным. В странах, где машины не внедрялись (например, Китай), число рабочих в это время вообще не увеличилось.
Как ещё машины порождают новые профессии
Роботы могут пахать и убирать урожай, собирать автомобили или класть кирпич. Но они точно не могут переводить художественную литературу, писать успешные книги или учить детей. Что-то не слышно о роботах-парикмахерах или гениальных поэтах. Наконец, робот не может быть инженером, проектировать новых роботов, да и вообще любые новые изделия. Нет пока и работоспособных роботов-программистов или ремонтников. Это значит, что у огромного количества профессий даже самое широкое использование промышленных роботов не должно вызывать никакой опаски. Чем больше будет железных рук на производстве, тем больше человеческих рук потребуется, чтобы их программировать и чинить.
Но самое главное: высвобождение рук на производстве создаёт мощнейший драйвер для роста профессий, которых сейчас не существует и которые мы пока даже не можем себе представить.
Вернёмся на сотни лет назад. В 1700 году девять десятых всех рабочих мест были в сельском хозяйстве, почти всё остальное приходилось на кузнецов, шорников и гончаров. Промышленные изделия делались только для сверхбогатых. Цены на них были соответствующие - тогдашний пистолет в пересчёте на нынешние деньги стоил как гранатомёт сегодня, а книга - как лёгкий ноутбук.
Если бы нашли экономиста той поры и сказали ему, что машины дадут одному крестьянину кормить 50 горожан, из-за чего большинство крестьян уйдёт в города, он сказал бы, что наступит катастрофа. Они там начнут голодать и бунтовать: работы-то для них в городах нет.
И вот прошло несколько веков. Крестьяне стали исчезающе редким видом тружеников, но переехавшие в город голодать и бунтовать почему-то не спешат. Число голодных резко уменьшилось, следов разинщины или пугачёвщины не видно. Люди, прибивающие себя за мошонку к брусчатке Красной площади, выглядят подозрительно упитанными. Что пошло не так?
Когда у людей освобождаются руки от удовлетворения самых простых потребностей - например, выращивания еды, - они тут же находят новые. Например, менять одежду, ездить в отпуск на море (ещё в XVI веке так не могли сделать и короли) или прикупить очередной смартфон и автомобиль. Фитнес-зал, наконец. Потребности нашего современника растут практически бесконечно. Из этого следует простой и очевидный прогноз: рост числа роботов будет увеличивать количество занятых в сфере услуг или производстве товаров, которые нам сейчас так же сложно себе представить, как современникам Ивана Грозного - поездки на черноморские курорты.
Чем больше роботов - тем больше рабочих мест
Ну хорошо, всё это теория. А что с практикой? Может, нынешние роботы такие продвинутые, что совсем уж не оставят места рабочим? Вон, посмотрите, как шустро они собирают машины - и люди им почти не нужны:
Что ж, есть простой способ проверить. Самая роботизированная страна мира - это Южная Корея, где в 2014 году было 440 многоцелевых промышленных роботов на 10 000 рабочих. В мире в среднем их тогда было всего 68. Выгнали ли роботы южнокорейцев на улицу? Не совсем: в 2015 году лишь 3,6 процента южнокорейцев были безработными. У соседа - КНДР - таких роботов ноль, а безработица в несколько раз выше. Кстати, в России таких роботов на 10 000 рабочих ровно 1 , в 440 раз меньше, чем в Южной Корее. Угадайте, что это значит? Верно: безработица в нашей стране намного выше (официально - 5,8 процента). Япония - на втором месте по роботам, безработица, однако, как в Южной Корее, а не как в России или КНДР. Вообще, чем выше уровень автоматизации в той или иной стране, тем там безработица.
Из предыдущей части читатель уже понял, почему так. Южная Корея с её роботами делает продукцию, с которой (без заградительных пошлин) не может конкурировать Россия, потому что у неё таких роботов почти нет. Точно так же британские станки в своё время позволили англичанам задавить индийских бесстаночных конкурентов. Уже в 1834-м британский генерал-губернатор констатировал факт: "Равнины Индии белеют костями ткачей". Наверно, так же белели костями мамонтов равнины Евразии в эпоху их вымирания. Поэтому вполне закономерно, что в Корее безработица ниже, чем в России: ведь роботы-то у них, а не у нас.
Волноваться, что русские рабочие повторят судьбу своих индийских коллег из 1834 года, не стоит. Ткачи умирали потому, что у них не было таможенных пошлин от дешёвой английской продукции. Суверенные страны - те же США - в те годы просто вводили пошлины и сохранили свою текстильную индустрию. Современная Россия идёт по тому же пути. Приходящий сюда автопроизводитель (именно в этой отрасли больше всего роботов) либо платит пошлину, либо строит в стране завод и доводит локализацию машины до 65 процентов.
В итоге корейцы (и прочие иностранцы) неизбежно принесут роботов и в Россию, за что, конечно, заранее им спасибо. Глядя на отечественных бизнесменов, нетрудно догадаться, что, если бы роботизация зависела только от их воли, мы бы её ещё долго не увидели. Кстати, процесс уже идёт. После установления иностранного контроля над ВАЗом количество промышленных роботов там заметно выросло, хотя пока ещё и недотягивает до французских и японских заводов Renault-Nissan. К счастью, как и в Корее, безработица от этого лишь сократится.
"Роботы" - почему мы их так называем, откуда появилось данное слово, кто положил начало робототехнике? Первый пост в нашем блоге мы решили посвятить раскрытию именно этих базовых вопросов. Какие ассоциации у вас вызывает слово "робот"? Скорее всего у большинства из вас это будет связано с терминатором/трансформером. Так когда и откуда все началось, давайте разберемся вместе.
Известный чешский писатель Карел Чапек помимо других своих произведений написал несколько работ в научно-фантастическом стиле. Следует отметить, что в то время научная фантастика еще не являлась отдельным жанром. В своих работах он часто использовал фантастику как призму, позволяющую анализировать различные проблемы.
С точки зрения робототехники наиболее важной из его работ, безусловно, является пьеса Rossum"s Universal Robots или сокращенно R.U.R., опубликованная в 1921 году. Прежде всего, именно с этой пьесой связано появление слова «робот». Кроме того, в ней рассматриваются проблемы этического характера, которые могут возникнуть при создании искусственного интеллекта.
Следует отметить, что роботы в пьесе Карела Чапека существенно отличаются от используемых сегодня роботов. В этой пьесе ученому по имени Россум удается синтезировать материю, которая может быть использована для создания искусственных, но функционально идентичных и похожих на человеческие, органов и тканей. Одним словом, нечто подобное искусственным стволовым клеткам.
Хотя, по первоначальному происхождению роботы были биологическими существами, а сегодня это "механические" устройства в любом смысле слова, может быть налажен серийный выпуск таких устройств. Они, в конечном счете, выходят из строя из-за износа и поломок. По мере необходимости, могут разрабатываться новые модели. Стандартные роботы вообще не имеют никаких индивидуальных особенностей и считаются просто автоматами.
И все-таки, давайте рассмотрим, как увлекательно все начиналось.
Роботы – почему мы их так называем
История появления слова «роботы» такова. Однажды у Карела Чапека возникла идея – написать пьесу об искусственных человекоподобных существах, которые создаются для того, чтобы работать на людей, и о проблемах, которые могут возникнуть в такой ситуации. Однако, в процессе работы писатель никак не мог подобрать подходящее название для этих существ.
Поэтому он обратился за советом к своему брату Йозефу Чапеку, художник и хорошему советчику. Йозеф и предложил назвать эти искусственные существа "роботами". Это слово происходит от чешского слова "Робота" и означает подневольный труд, трудолюбие. Если бы Юзеф не предложил это слово, мы, вероятно, называли бы их теперь не «роботами», а «лабори». Именно такой первоначальный вариант был у Карела Чапека для будущих, наделенных элементами разума помощников людей.
Как видите, в контексте истории робототехники, основное значение пьесы R.U.R. заключается, вероятно, в появлении самого термина. Впрочем, важно не только это. Хотя роботы чешского писателя и довольно серьезно отличаются от современных, Чапек в своей пьесе анализирует серьезные проблемы, которые появились или могут в один прекрасный день стать актуальными в процессе развития робототехники.Прежде всего, необходимо отметить разные мотивы, движущие людьми при создания роботов. Сегодня многие из самых сложных и удивительных роботов создаются просто для того, чтобы что-то доказать. Доказать, что это – возможно, доказать, что это – достижимо. Также и в пьесе Чапека такой мотив был главным при создании «роботов», в первую очередь, это можно видеть из следующих цитат:
Helena: Что же именно он пытался сделать?
Domin: Подражание природе. Сначала он попробовал сделать искусственную собаку. Для этого потребовалось несколько лет, а результатом стало что-то вроде уродливого оленя, который погиб через несколько дней. Я могу показать вам его в музее. После этого он приступил к созданию человекоподобного существа.
Domin: Да, что-то вроде этого, но старина Россум понимал это совершенно буквально. Он хотел, используя достижения науки, заменить Бога. Он был убежденным материалистом, и именно поэтому хотел доказать, что Бог не нужен. Вот такой у него был замысел воспроизводства человеческих существ, таких же, как вы или я, до кончиков волос. Знакомы ли вы с анатомией, мисс Глория?
Таков был лейтмотив у старого Россума при создании "роботов". Другим мотивом, в конечном счете, была обычная выгода. При этом возникает важная проблема «прав человека» для человекоподобных машин. Подобные проблемы могут возникнуть, если роботы начнут повсеместно использоваться в производстве, в армии, в быту и т.д.
Помимо выявления связанных с роботами проблем, пьеса заставляет вас задуматься и о других сопутствующих проблемах, таких как ответственность человечества, важность труда в жизни человека, с одной стороны и зло рабства, с другой. А также, каковы возможные последствия чрезмерного корыстолюбия, власти корпораций и так далее.
Как вы можете понять, пьеса достаточно интересная, ее стоит прочитать.
Как видите, можно считать, что пьеса Карела Чапека является предшественником таких научно-фантастических хитов, как Терминатор и Матрица, но выгодно отчается от них философским подтекстом. И это неудивительно, ведь Карел Чапек получил университетский диплом по философии. В любом случае, эта пьеса важный элемент в истории робототехники, потому что именно с нее фактически и началась робототехника. По крайней мере, она дала ей название.
Не стоит бояться того, что роботы заменят человека, - в обозримой перспективе этого не случится. И вот почему.
Роботы не умеют выполнять сложные и творческие задачи
У роботов нет интуиции
Это нелогичная, почти мистическая способность, свойственная лишь человеку, часто помогает принимать правильные решения вопреки фактам и логике. Исполнительный вице-президент агентства недвижимости Baird & Warner Лаура Эллис объясняет это на примере работы риелтора. «Покупатели домов часто описывают свои пожелания очень подробно. Используя технологии, я легко могу найти им стопроцентное совпадение по формальным критериям. Но потом происходит следующее: мы заходим в дом, и уже через три секунды понятно - это не то. Несложно найти подходящий „на бумаге“ дом - искусственный интеллект легко справится с этим, сверившись с базами данных. Гораздо тяжелее найти покупателям дом по душе. Выбор жилья сильно определяется интуицией и эмоциями», - говорит Лаура Эллис.
«Глюки» будут всегда
Подавляющее большинство американцев (88%) ненавидят ждать и толкаться в очередях на кассу. Автоматические сканеры могли бы стать хорошей альтернативой, разгрузить кассиров и сэкономить время покупателей.
Однако три четверти тех же респондентов заявляют, что избегают касс самообслуживания из-за возможных технических неполадок. И если с человеком в случае ошибки всегда можно договориться, то при поломке роботизированного кассира покупатель оказывается беспомощен. А для того, чтобы исправить неполадку, все равно потребуется человек.
Почему ученые и исследователи ИИ спорят о том, нужны ли нам роботы? Насколько реален сценарий, по которому искусственный интеллект захочет (и сможет) уничтожить человечество? Когда робот займет мое рабочее место?
Приводим отрывок из книги писателя и журналиста The New York Times Джона Маркоффа «Homo Roboticus? Люди и машины в поисках взаимопонимания» , который поможет во всем разобраться.
Конец эры печатников
Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» - спросил я.
Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками.
Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы. Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации.
Куда пойдет ИИ?
Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.
Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж». Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.
Роботы на войне
На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред».
Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования проходят с прицелом на чрезвычайные ситуации под девизом “найти и уничтожить”, - сказал он сардонически, добавив: Простите, я имел в виду девиз “найти и спасти”».
Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, - сказал он, - но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались».
В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и .
Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их.
Сегодня мы все еще «в контуре управления» - машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, - сказал Аркин. - Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».
Вопросы и проблемы автоматизации вышли за пределы технического сообщества. В оставшемся незамеченным открытом отчете Пентагона «Роль автономности в оборонных системах» авторы обратили внимание на этические проблемы автоматизации боевых систем. Военные уже напрямую сталкиваются с противоречиями, связанными с автономными системами вроде дронов и приближением к грани, за которой вопросы жизни и смерти уже будут решать не люди. В одном из своих выступлений Аркин утверждал, что, в отличие от людей, автономные боевые роботы не будут чувствовать угрозы личной безопасности, а это потенциально может уменьшить сопутствующий ущерб и избежать военных преступлений.
Аркин, кроме того, сформулировал новый набор этических вопросов. Что, если у нас будут роботы, обладающие моралью, а у противника - нет? На этот вопрос нет простого ответа. Действительно, технологии все более интеллектуального и автоматизированного оружия спровоцировали новую гонку вооружений. Добавление недорогого интеллекта к системам вооружений угрожает изменить баланс сил между странами.
Когда Аркин завершил выступление в величественном здании Медицинской академии в Атланте, одним из первых ему ответил директор DARPA Robotics Challenge Гилл Пратт. Он не стал опровергать точку зрения Аркина, а подтвердил, что роботы - технология двойного назначения: «Очень легко критиковать роботов, которых финансирует Министерство обороны, - сказал он. - Очень легко нарисовать робота, который похож на Терминатора, но, поскольку все вокруг нас имеет двойное назначение, это ничего не меняет. Если вы создаете робота для здравоохранения, то вам придется сделать его более автономным, чем робота-спасателя для работы в чрезвычайных ситуациях».
Передовые технологии всегда вызывали вопросы относительно двойного назначения. В наши дни искусственный интеллект и автономность машин привели к переосмыслению этой проблемы. До сих пор технологии двойного назначения прямо требовали от людей принятия этических решений относительно их использования. Автономность машин или отдаляет принятие этических решений человеком, или полностью исключает его.
Автономны ли современные роботы?
У нас уже есть примеры, когда ученые и инженеры в других областях задумывались о потенциальных последствиях того, что они делают, и многие из них вставали на защиту человечества. В феврале 1975 г., например, нобелевский лауреат Пол Берг призвал элиту новой тогда биотехнологии встретиться в конференц-центре Асиломар в Пасифик-Гроув, Калифорния. В то время рекомбинантная ДНК, полученная добавлением новых генов в ДНК живых организмов, была последним достижением. Оно одновременно сулило глобальный прогресс в , и новых материалах и открывало страшную возможность ненамеренного уничтожения человечества в результате появления новых микроорганизмов. Встреча ученых привела к экстраординарному решению.
Группа рекомендовала молекулярным биологам воздерживаться от определенных видов исследований и приостанавливать исследования для поиска путей обеспечения безопасности. Для мониторинга отрасли биотехнологи создали независимый комитет в Национальном институте здравоохранения. За десятилетие удалось собрать достаточно данных, чтобы снять ограничения на исследования. Это был яркий пример разумного подхода общества к оценке последствий научного прогресса.
По примеру биологов в феврале 2009 г. группа исследователей искусственного интеллекта и робототехников также встретилась в Асиломаре, чтобы обсудить развитие отрасли. Встречу созвал исследователь из Microsoft Эрик Хорвиц, президент Ассоциации развития искусственного интеллекта. В предыдущие пять лет предметом обсуждения у исследователей в этой области были два тревожных сигнала. Один поступил от , объявившего об относительно скором появлении компьютерного сверхинтеллекта. Основатель Sun Microsystems Билл Джой также рисовал мрачную картину развития искусственного интеллекта. Он опубликовал статью в журнале Wired, где детально описывал трио технологических угроз: робототехнику, генную инженерию и нанотехнологию. Джой полагал, что эти области исследований создают тройную угрозу выживанию человечества, и не видел очевидного решения.
Встретившиеся в Асиломаре исследователи искусственного интеллекта предпочли действовать менее осторожно, чем их предшественники биотехнологи. Группа светил в области компьютерной науки и робототехники, включая Себастьяна Труна, Эндрю Ына, Мануэлу Велосо и Орена Этциони, нынешнего директора Института исследований искусственного интеллекта Пола Аллена, в целом отвергла возможность появления сверхинтеллекта, который превзойдет людей, а также предположение, что искусственный интеллект может спонтанно возникнуть в интернете. Они согласились, что уже разрабатываются способные убивать автономные роботы, но их отчет, появившийся к концу 2009 г., оказался довольно спокойным. Искусственный интеллект еще не достиг того момента, когда он превращается в непосредственную угрозу.
«На встрече 1975 г. речь шла о моратории на исследования рекомбинантной ДНК. Контекст совещания американской Ассоциации развития искусственного интеллекта был совершенно иным. Эта область демонстрирует довольно успешное, устойчивое развитие, однако исследователи искусственного интеллекта открыто выражают разочарование прогрессом, недостаточно быстрым с учетом существующих надежд и ожиданий», - написали авторы итогового отчета о встрече.
Так или иначе пять лет спустя вопрос автономности машин возник снова. В 2013 г., когда Google приобрела специализировавшуюся на британскую фирму DeepMind, считалось, что робототехники очень близки к созданию полностью автономных роботов. Крошечный стартап продемонстрировал программу, которая играла в видеоигры порою лучше людей. Отчеты о приобретении сопровождались заявлением, что Google создает «совет по этике» из-за опасений по поводу потенциального использования технологии и возможных злоупотреблений.
Один из соучредителей - Шейн Легг - признал, что технология в конечном итоге может иметь негативные последствия для человечества. «Думаю, что человечество исчезнет, и технология, скорее всего, сыграет в этом определенную роль». Для исследователя искусственного интеллекта, который только что получил сотни миллионов долларов, это была странная позиция. Если кто-то полагает, что технология может уничтожить человечество, то с какой целью он продолжает разрабатывать ее?
В конце 2014 г. встреча по искусственному интеллекту повторилась - новая группа исследователей, финансируемая одним из основателей Skype, собралась в Пуэрто-Рико, чтобы обсудить безопасность исследований. Несмотря на новую волну тревожных сигналов от таких светил, как Илон Маск и Стивен Хокинг, в открытом письме участников не было того призыва к действию, который прозвучал на встрече биотехнологов в Асиломаре в 1975 г.
Учитывая, что DeepMind была куплена Google, публичное философствование Легга приобретает особое значение. Сегодня Google - самый яркий пример потенциальных последствий развития ИИ и усиления интеллекта. Построенная на алгоритме, эффективно собирающем знания, а затем возвращающем их людям в процессе поиска информации, Google теперь занята созданием империи роботов. Компания может создать машины, которые заменят людей: водителей, работников служб доставки и сборщиков электроники. Пока неясно, останется ли она компанией «усиления интеллекта» или будет ориентироваться на ИИ.
И снова этические вопросы
Новую волну беспокойства по поводу потенциальной угрозы со стороны искусственного интеллекта и робототехники рождают этические проблемы, показанные в научно-фантастическом фильме «Бегущий по лезвию». В начале фильма детектив Декард встречается с Рэйчел, сотрудницей компании, производящей роботов (или репликантов), и спрашивает ее, дорого ли стоит «ночная бабочка». Она высказывает предположение, что он не понимает ценности работы компании. «Репликанты подобны любой другой машине, - отвечает Декард. - Они или благо, или опасность. Если они благо, это не моя забота».
Сколько пройдет времени, прежде чем интеллектуальные машины Google, основанные на технологиях от DeepMind и робототехнического подразделения Google, будут вызывать такие же вопросы? Мало какие фильмы оказали такой же культурный эффект, как «Бегущий по лезвию». Всего вышло семь его версий, одна из которых режиссерская, сейчас снимается сиквел. В нем рассказывается история отставного детектива из Лос-Анджелеса, которого в 2019 г. вызвали, чтобы выследить и уничтожить группу искусственно созданных существ, известных как репликанты. Репликанты предназначались для работы за пределами планеты, но незаконно вернулись на Землю, чтобы заставить своего создателя увеличить ограниченную продолжительность их жизни. Ставший современным «Волшебником Страны Оз», этот фильм отражает надежды и страхи технологически грамотного поколения.
От Железного Дровосека, который получает сердце и, таким образом, в определенной мере становится человеком, до репликантов, настолько превосходящих людей, что Декард получает приказ уничтожить их, отношение человечества к роботам превращается в определяющий вопрос эпохи.
Эти «интеллектуальные» машины никогда, возможно, не станут интеллектуальными в человеческом смысле или обладающими самосознанием. Дело не в этом. Искусственный интеллект быстро совершенствуется и приближается к уровню, когда он все в большей степени будет казаться интеллектом.
Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.
И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человекомашинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы - те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.
Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.
Машины уже выстраивают нашу повседневность
Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности.
Это подводит нас к еще одной большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri - сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, - сказал он. - Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить».
На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке.
Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно - если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре - это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым.
Конечно, у этих технологий есть пределы. Американский исследователь ИИ Терри Виноград говорит, что цели применения компьютерных технологий - расширение возможностей людей или их замена - зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») - это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.
На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей - инженеров и ученых, которые осознанно выбрали антропоцентрический подход.
Это проблема нас как людей и мира, который мы создаем. Это не проблема машин.
