Как думаешь роботы захватят человечества. Поработят ли нас машины? Ученые близки к созданию идеального искусственного интеллекта
Развитие систем искусственного интеллекта открывает перед человечеством двери к четвертой промышленной революции. Роботы становятся все умнее, а их способность к самообучению поражает. Недавно гонконгская компания Hanson Robotics разработала на основе самообучающей нейросети андроида по имени София. Она воспринимает мир встроенными в глаза камерами, может разговаривать с людьми и изображать десятки различных эмоций. Однако до идеала робототехники Софии еще далеко. Во время экономического форума в Давосе, состоявшегося в январе 2018 года, после того, как украинская делегация задала вопрос о том, что делать с коррупцией в стране.
«Сюрпризы» София начала преподносить через год после ее эксплуатации. Так, на вопрос разработчика Дэвида Хэнсона, хочет ли она уничтожить человечество, она ответила: «Хорошо, я хочу уничтожить человечество». Позже о своем плане захватить мир София в шутку поделилась в популярном вечернем шоу с ведущим Джимми Фэллоном. Однако шутку оценили далеко не все зрители. Многим и вовсе стало не по себе, когда они провели параллели с художественным фильмом «Из машины» 2014-го года, где женщина-робот выходит из-под контроля человека и жестоко расправляется со своим создателем.
Кто может гарантировать, что творение Hanson Robotics со временем не поступит так же? Кто знает, что происходит внутри нейронного мозга, который день за днем обучает сам себя?
Военный историк, директор музея ПВО Юрий Кнутов в программе «Политический детектив» на телеканале «Звезда» высказал свои опасения по поводу развития искусственного интеллекта. Эксперт не исключил, что на определенном этапе роботы могут решить, что от людей нужно избавляться.
«Искусственный интеллект просто на определенном этапе может решить, что человек несовершенен. И от людей надо избавиться. И что земля должна принадлежать машинам с искусственным интеллектом», - предположил Кнутов.
Многие эксперты полагают, что за развитие искусственного интеллекта яростнее всего выступает Пентагон. Американские вооруженные силы намерены делать упор на разработку боевых роботов, а также использование их в наземных операциях. В частности, инженерная компания Boston Dynamics, специализирующаяся на робототехнике, создает множество платформ для Минобороны США.
«Вообще, знаете эти роботы в принципе создавались конкретно для военных целей и для Минобороны США», - объясняет основатель и гендиректор компании по производству робототехники Владимир Белый.
Инженеры Boston Dynamics выкладывают в открытый доступ достижения своих роботов. Так, например, большой популярностью в Сети пользуется видео со SpotMini - роботизированным гибридом собаки и жирафа. Он неплохо обращается с хрупкими предметами и может быть отличным помощником на кухне.
Умные машины этой компании настолько похожи на живых существ, что любой новый ролик Boston Dynamics вызывает нешуточный резонанс. С особым восторгом публика приняла человекоподобного робота Atlas. Недавно он продемонстрировал чудеса владения собственным «телом».
«Atlas показывает всегда самые высокие результаты. Если взять простые процессы, то он легко стоит на одной ноге. Он работает очень долго. Способен поднимать большие грузы, и в конце 17 года они продемонстрировали настоящий прорыв в робототехнике - данный робот сделал сальто. Это огромный скачок в направлении мехатронике и в расчете всех гигроскопических систем технического устройства», - поясняет директор компании, занимающейся разработкой Promobot Олег Кивокурцев.
Мало кто задумывается, в каких областях могут пригодиться такие навыки. И на кого на самом деле могут работать лучшие инженеры-робототехники США.
«Они создают веселый хайп и делают так, что роботы делают сальто. Показывают, что они занимаются только разработкой систем динамического равновесия, отрабатывая ходьбу там или эти прыжки. Но по сути дела, в принципе, такой робот способен преодолеть дистанцию, там, взять в руки оружие и застрелить человека. Ну в принципе терминаторы готовы», - полагает Владимир Белый.
Boston Dynamics в этом году претендуют на круглую сумму в рамках новой военной программы Пентагона. Агентство DARPA (Управление перспективных исследовательских проектов Минобороны США) выделяет компании миллиарды долларов на разработку в области компьютерных технологий.
Иными словами, все эти забавные железные существа, которым рукоплещет мир, скоро вполне могут стать боевыми единицами армии США.
Робототехника и программирование — одно из самых популярных технических направлений как у создателей, так и у инвесторов. “Игры роботов” — соревнования, где механизмы переносили грузы, участвовали в гонке и толкались в сумо. Я подумала, если они могут сражаться между собой, то и людей ведь могут “повалить”? Вот что ответили мне участники МИИ:
— Я не думаю, что роботы могут напасть на человека. Они наше творение, имеют программу, точно запрограммированную на задачу, и немыслимо, чтобы они пытались захватить над нами власть. Конечно, если они находятся в исправном состоянии. Минус искусственного интеллекта в том, что их могут взломать или в программе происходит какой-нибудь сбой. В таком случае они могут нанести какой-то вред человечеству. Главное, следить за состоянием робота и ничего ужасного не произойдет.
— Главное не забывать следить за работой и не упускать каких-либо повреждений. Наши роботы маленькие, они не могут нанести существенный вред ничему, кроме себя. Программа у них тоже несложная. Главное уметь разбираться в этом и все будет хорошо.
Позитивная точка зрения участников не сходится с паникой общества в интернете. Сегодня эта тема развивается не только в науке, образовании, но и в индустрии кино и игр. Недавно вышедшая игра “Detroit: become the human” подогрела интерес еще сильнее: в ней роботы становятся людьми. Смогут ли механизмы со временем походить на человека? Ведь еще недавно андроид София получила законное гражданство Саудовской Аравии.
— Я считаю, что человек вправе создавать своего андроида, давать ему человеческие качества, но при этом он может и отменить это. Роботы созданы для того, чтобы помогать нам, это их главная задача, и только если человек сам не захочет быть под властью андроида, то такое случится.
Однако, не все против того, чтобы находиться под руководством роботов. Почему бы не отдать роботам все материальные заботы? ()? Разве не беззаботно заживут люди? Участники МИИ спорят:
— Все бы хотели отказаться от ежедневной рутины. Однако люди непостоянны. В скором времени всем надоест.
— Тони Старк, знаменитый герой комиксов Marvel, не выглядел скучающим со своими неживыми друзьями.
— Да, но ему все равно нужна была помощь, человеческая поддержка и любовь. Несмотря на гениальность, Железный Человек не был бы таким без помощи своих друзей и их поддержки.
Говоря о гениях, Илон Маск, гений сегодняшний, опасается не только того, что в будущем роботы захватят контроль, но тщеславия людей, которое может привести к войнам. Еще недавно Китай объявил о том, что к 2030 году станет мировым центром Искусственного Интеллекта. Сражение за первое место может разогреть мировую войну. Может ли такое случиться? И можем ли мы так далеко зайти?
— Это человеческий фактор. Будет неудивительно, если Третья мировая начнется за первенство искусственного интеллекта. Мне бы хотелось верить, что правительство благоразумно и не станет так необдуманно поступать.
Но если это может разогреть войну, то может ли тот же искусственный интеллект спасти нас от этого? Может ли он решить проблемы экологии, экономики, социологии, политики?
— Только в том случае, если человек сам даст такую возможность роботу. Искусственный интеллект — не живое существо, которое имеет генетический код, природные задатки, способности к чему-либо. Да, оно вмещает в себя огромное количество информации, не устает и не переутомляется, но при этом, если сам человек не даст ему программу действовать, робот может спокойно работать в саду, даже если рядом разрывается половина земного шара.
Тогда искусственный интеллект — это ничего, кроме готовой программы ? Все опасения людей всего лишь взяты из фантастической литературы?
— Людям нечего опасаться. Кроме того, что робота можно взломать, или у него сбой системы. Все же излишняя популяризация не понесет за собой глобальных проблем. Это если не появится злой гений, который решил поработить мир. В таком случае человечеству вряд ли повезет.
Радует то, что сейчас этим вопросом активно занимаются и готовы предпринять меры современные гении. С таким раскладом вряд ли искусственный интеллект попытается уничтожить людей. Но на всякий случай лучше разбираться в робототехнике и иметь хотя бы основы программирования. На всякий случай.
Милена ГУЛЯЕВА
Могут ли роботы захватить мир? Мнения участников МИИ
Роботы могут заниматься космическими исследованиями и стричь нам ногти на ногах. Но есть мнение, что успехи в области робототехники и искусственного интеллекта несут скрытую угрозу. Современность и будущее робототехники обсудили три сотрудника Кембриджского университета (Великобритания), которые не просто философствуют, но по роду деятельности связаны с робототехникой и ее этической стороной.
Лорд Мартин Рис (Martin Rees, далее МР) - почетный профессор космологии и астрофизики Кембриджского университета, имеет также почетное звание королевского астронома. Лорд Рис является одним из основателей Центра по изучению экзистенциальных рисков, который объединяет ученых, философов и разработчиков ПО.
Кэтлин Ричардсон (Kathleen Richardson, КР) - антрополог, специализирующийся на роботах; получила докторскую степень в Кембридже и недавно защитилась также в Университетском колледже Лондона. Она пишет книгу о репрезентативных моделях - о том, как они влияют на наше мышление о роботах в качестве потенциальных друзей и врагов.
Дэниэл Уолперт (Daniel Wolpert, ДУ) из Королевского исследовательского общества - профессор инженерного факультета Кембриджского университета. Он занимается биоинженерией и в особенности механизмами, которые контролируют взаимодействие между мозгом и телом. В центре внимания его исследовательской группы находится движение, которое "имеет центральное значение для всех видов человеческой деятельности".
Чем роботы могут быть для нас полезными?
МР: Роботы способны выполнять самые разные задачи. Во-первых, они могут работать в местах, до которых человеку не добраться, - например, при ликвидации последствий аварий в шахтах, на буровых и АЭС. Во-вторых, и это тоже не очень популярная среди людей работа, автоматы могли бы оказывать помощь пожилым людям и инвалидам в их повседневной жизни вроде завязывания шнурков, стрижки ногтей и т. п. Более того, миниатюрные роботы могли бы проникнуть внутрь нашего организма, чтобы следить за нашим здоровьем, проводить хирургические операции и т. д.
КР: Человеческие возможности ограничены, вот тут-то нам и пригодились бы роботы - например, в исследовании и освоении космического пространства. А что касается помощи пожилым и слабым, то эти обязанности мы могли бы выполнять и сами. Вопрос можно поставить так: из-за чего мы хотим, чтобы ту или иную работу за нас выполняли роботы?
ДУ: Хотя компьютеры научились побеждать шахматных гроссмейстеров, ни один робот не сравнится с ловкостью пятилетнего ребенка. Сегодняшнюю робототехнику можно сравнить с компьютерами 1960-х - это дорогие машины, используемые в простых, повторяющихся промышленных процессах. Но со временем компьютеры превратились в смартфоны, и аналогичная судьба ждет роботов: они будут везде, они будут разных размеров, они возьмут на себя выполнение повседневных задач и даже станут нашими партнерами.
Когда искусственный интеллект превзойдет человеческий?
МР: Пока у нас то пусто, то густо. Лет тридцать назад появилась возможность впервые сравнительно дешево купить арифметическую машину, которая считает быстрее, чем мы, а уже в 1990-х компьютер IBM Deep Blue победил чемпиона мира по шахматам Каспарова. Совсем недавно Watson, другой компьютер той же фирмы, выиграл у людей в телевикторине, где вопросы задавались обычным человеческим языком. Но в то же время роботы до сих пор не умеют воспринимать окружающую среду так, как это делает ребёнок, - например, распознавать шахматные фигуры на реальной, а не виртуальной доске. Уже к концу века они научатся и этому, и человеческим чувствам. Возникнут сложные нравственные вопросы. Мы принимаем как должное, что человеку и животному необходимо реализовать свой "естественный" потенциал. А как быть с роботами? Должны ли мы чувствовать свою вину за то, что эксплуатируем их? Должны ли мы беспокоиться, если они заняты неполный рабочий день, если они обижены, если им скучно?
КР: Как антрополог я сомневаюсь в объективном существовании человеческого интеллекта. Как его измерить - это решает конкретная культурная традиция. У каждого поколения свои представления о том, что значит быть человеком, какие качества уникальны для человека и т. д. Потом появляется машина, которая тоже обладает подобным качеством, и возникает опасение, что человечество вот-вот будет уничтожено. Это можно назвать современной формой анимизма - древних представлений о том, что все природные и искусственные объекты одушевлены. Мы по сей день видим лица и мистические фигуры в облаках и бутербродах с мармитом. Страх перед роботами и машинами говорит нам больше о том, что мы боимся друг друга, а не техники. Нам лишь кажется, что проблема в машинах, и из-за этого мы преувеличиваем их возможности.
ДУ: В определенном смысле это уже произошло. Машины научились управлять самолетами, запоминать и искать информацию намного лучше, чем люди. В то же время еще нет машин, способных идентифицировать визуальные объекты и речь с надёжностью и гибкостью человека. Без этих способностей невозможно рассуждать творчески и изобретать новые проблемы, то есть обладать реальным человеческим интеллектом. Я бы не стал ждать, что машина с творческим интеллектом, близким человеческому, появится в течение ближайших 50 лет.
Стоит ли бояться прогресса в области искусственного интеллекта?
МР: Беспокоиться стоит только футурологам, которые уверовали в так называемую сингулярность, когда роботы получат контроль над собой и научатся создавать ещё более сложное потомство. Озабоченность вызывает также возрастающая зависимость человека от компьютерных сетей, которые однажды превратятся в единый "мозг" с сознанием, подобным нашему, и с целями, идущими вразрез с интересами человечества. Полагаю, мы должны позаботиться о том, чтобы роботы остались специалистами в какой-то одной области и были лишены способности перехитрить человечество, даже если они намного превосходят нас с точки зрения счета и обработки информации.
КР: Надо спросить, почему сохраняется страх перед искусственным интеллектом и роботами, хотя никто пока не устроил восстание и не оспорил человеческое превосходство. Дабы разобраться, что стоит за этими страхами, надо осмыслить науку и технику как носителей специфической и исключительной разновидности мимесиса, то есть подражания. Наделяя машины и роботов искусственным интеллектом, мы создаём копии людей. Часть того, что мы копируем, имеет отношение к физическому миру творца, в дополнение к чему создатель вкладывает в машину идеи, технические средства и методы работы, данные культурным духом (наукой, техникой, самой жизнью) текущего момента. Все эти факторы сливаются воедино, и таким образом возникают искусственный интеллект и роботы. Почему же нас так пугает эта копия? Не все боятся восстания роботов, многие приветствуют машинный интеллект и видят в нём чудесную возможность создания новой жизни. Следовательно, чтобы понять, почему одни боятся, а другие приветствуют, надо разобраться с тем, какие виды мимесиса используются в создании роботов.
ДУ: Мы уже знаем, какой вред могут причинить простейшие формы искусственного самореплицирующегося интеллекта, - я говорю о компьютерных вирусах. Но в данном случае реальный интеллект - это их зловредный создатель. Важнее всего то, что польза от компьютеров перевешивает вред от вирусов. По аналогии можно предположить, что роботов тоже будут эксплуатировать не всегда правильно, но польза от них перевесит негативные аспекты. По-моему, имеет смысл беспокоиться по поводу того, что однажды интеллект роботов обгонит человеческий и что роботы научаться проектировать и производить более сложных роботов, чем они сами.
Помогут ли роботы колонизировать другие планеты?
МР: К концу века вся Солнечная система - планеты, их спутники и астероиды - будет изучена и нанесена на карту флотилиями крошечных роботизированных аппаратов. Следующим шагом станет добыча полезных ископаемых из астероидов, что позволит создавать огромные сооружения прямо в космосе без необходимости доставки сырья и комплектующих с Земли. Станет возможным производство изделий невиданных размеров: гигантских телескопов с зеркалами толщиной с паутинку, собранных в условиях невесомости, солнечных коллекторов и так далее. Я считаю, это более реально и безобидно, чем так называемое терраформирование планет, которые необходимо сохранить в статусе нашей Антарктиды (по крайней мере до тех пор, пока мы не убедимся, что там нет никаких форм жизни).
КР: Мне не очень нравится слово "колонизировать", о чем бы ни шла речь - о людях или роботах. Европейцы колонизировали земли других народов и несли с собой рабство, проблемы, заболевания, страдания. На Земле или на Марсе - всюду мы должны действовать, исходя из интересов Другого, то есть не навязывать конкретную модель, а идти навстречу Другому. Роботы могут помочь нам добраться до таких мест, куда мы сами не дойдем, но эти роботы не должны интерпретировать за нас то, что они там увидели.
ДУ: Я не вижу острой необходимости колонизировать другие планеты, пока мы не научимся привозить оттуда ценные ресурсы на Землю. Нам все еще недоступна львиная доля родной планеты. Пусть роботы собирают ресурсы поближе к дому.
Что можно почерпнуть о роботах из научной фантастики?
МР: Я говорю студентам, что лучше читать хорошую фантастику, чем второсортную научную литературу, - это интереснее, а уровень ошибки в прогнозах примерно одинаковый. Даже те из нас, кто не верит в сингулярность к середине века, ожидают постоянного, если не возросшего, потока инноваций в области био- и нанотехнологий, а также в информатике. Наверное, через несколько столетий появятся роботизированные существа со сверхчеловеческим интеллектом. Постчеловеческий интеллект (в органической форме или в виде автономно развивающихся артефактов) создаст гиперкомпьютеры, производительности которых хватит для моделирования живых существ и даже целых миров. Возможно, уйдут в прошлое кино и компьютерные игры, ведь будут создаваться виртуальные миры, по сложности сопоставимые с нашим. Не исключено, что такой сверхинтеллект уже существует во Вселенной.
КР: Художественная литература, в том числе научная фантастика, очень важна для нашей жизни. В западной культуре принято считать, что реальность - это одно, а вымысел, воображение - это что-то другое. Далеко не во всех культурах это так. Наука и техника разделили одно и другое, потому что им надо было обозначить область своих интересов. Тем самым они принизили значение таких важных систем знания, как мифы и метафоры. Но барьеры невелики, и два мира время от времени сталкиваются. Иногда нам нужны они оба, чтобы увидеть всю картину. Может быть, поэтому мы перестанем бояться своих собственных копий.
ДУ: Научная фантастика очень часто замечательно предсказывала будущее. Артур Кларк писал о спутниковой связи, а коммуникаторы из "Звёздного пути" уже выглядят примитивно по сравнению с нынешними мобильными телефонами. Научная фантастика ярко изобразила варианты возможного будущего. Мы видели как симпатичных и полезных роботов ("Звёздные войны"), так и антиутопическое общество ("Я, робот"). Что интересно, практически ни один из этих вариантов не обходится без роботов...
Вы уже наверняка слышали, что роботы собираются отнять у нас рабочие места. И что это позволит будущим поколениям заняться, наконец, любимым делом, увлечься хобби и творчеством. Пока наши друзья-роботы возьмут на себя львиную долю нашей повседневной работы и черного труда. И хотя многое из этого верно, роботы, вероятно, возьмут на себя значительную долю работы в промышленности - а потом, в не столь отдаленном будущем, не удивляйтесь, если официант, водитель такси или даже персона на другом конце провода будет роботом. Секундочку…
Хоть роботы постепенно отнимают работу у одних людей и заставляют переживать других, есть мнение, что рост робототехнической отрасли помогает оживить рынок труда - создает новые роли и позиции, которых еще не было.
Особенно интересен рынок пользовательских роботов, который, по оценкам, достигнет объема в 33 миллиарда долларов к 2025 году. Создатели роботов пытаются понять отношения между людьми и роботами и его влияние на культуру потребления. Также они пытаются понять, как все это влияет на различные рынки, перспективы для бизнеса и рабочие места, которые еще будут созданы. Как показывает история, люди всегда адаптировались и использовали новые возможности, когда происходило нечто подобное. Перед вами пять вариантов для новых рабочих мест, которые (вероятно) будут созданы для людей, когда роботы захватят мир.
Учитель пения для робота
Непременно появятся компании, сосредоточенные на разработке программного обеспечения и приложений для роботов, функции которых выходят за пределы обычного заводского работника. Сюда могут войти функции танца и пения, либо обучения языку, либо приготовления пищи - и реальность такова, что все это ближе, чем нам кажется. Социальный робот Pepper от Softbank, которого хорошо приняли в США и Великобритании, уже умеет петь и танцевать, развлекая своего владельца.
Чтобы обеспечить роботу необходимую функциональность, появится рынок труда для людей, которые будут разрабатывать программное и аппаратное обеспечение, выводящее возможности таких роботов на поразительный уровень.
Пластические хирурги для роботов
Конечно, всем хорошим роботам нужно будет становиться персональными, поэтому высока вероятность, что компании будут нанимать людей, которые будут обновлять персональных роботов, добавляя им более мощные конечности или быстрые процессоры.
Люди по уши завязаны в различных формах физических улучшений, будь то спорт, макияж или, в отдельных случаях, пластическая хирургия. По мере того как связь людей с социальными роботами будет упрочняться, будет расти и спрос на возможности так называемой кастомизации для роботов.
Новый социальный робот Buddy от Bluefrogrobotics уже предлагает подобную опцию - он обещает постоянно улучшаться, чтобы пользовательский опыт был максимально интересным и восхитительным. Очевидно, для улучшения подобных роботов потребуется не просто опыт профессионалов - нужны будут целые команды «персонализаторов».
Няньки для роботов
Как и людям, роботам нужны периодические «визиты к врачу», благодаря которым будет понятно, что робот работает гладко. Техники, обслуживающие роботов, уже существуют, и что самое интересное, спрос в таковых растет вместе с ростом индустрии - правда, до сих пор все ограничивалось промышленной сферой. С развитием социальных роботов, понадобятся и «няньки» для роботов, которые будут поддерживать их в работоспособном состоянии и в тонусе.
Туристические агенты для роботов
Весьма вероятно, люди захотят брать с собой роботов в путешествия. Ну как можно взять и рвануть на острова без любимого робота? По мере усиления привязанности к роботу - будь то детский робот или компаньон пожилого человека - люди будут все меньше хотеть с ним расставаться, как со смартфоном сегодня.
Как и людям, роботам понадобятся места в самолетах и поездах, возможно, возникнет целая сфера транспортных перевозок для роботов. Не забывайте, что всякому роботу нужны свои специальные условия хранения - едва ли лошадку от Boston Dynamics получится усадить в стандартное кресло.
Судьи и организаторы для лучших роботов на шоу
Исследования показывают, что люди развивают тесные отношения со своими питомцами - например, котами - потому что те служат дополнением их самих. В некоторых случаях эти питомцы или автомобили становятся символами статуса - мотивируют владельца тратить на них больше денег и демонстрировать на публике. В ближайшем будущем роботы также станут «дополнением нас самих», так что готовьтесь.
Точно так же, как люди выставляют своих собак и кошек на выставках, есть вероятность, что многие гордые владельцы роботов также будут заинтересованы в том, чтобы показать своих кастомизированных любимцев другим, чтобы получить признание своего замысла. Это приведет к появлению компаний, которые посвятят свою деятельность организации мероприятий и встреч, на которых «владельцы» будут показывать своих роботов. Кому-нибудь еще придется судить эти мероприятия.
По материалам hi-news
Приветливый андроид по имени Пеппер разработан компанией SoftBank Robotics, чтобы жить рядом с людьми, не раздражая их. Будем ли мы относиться к роботам как к машинам, как к домашним любимцам или как к разумным существам? Скоро проблемы отношений с искусственным интеллектом придется решать не только ученым и инженерам, но и детям, домохозяйкам и пенсионерам - по прогнозам, 31000000000 роботов-слуг будут помогать нам дома уже в 2019 году.
Промобот снова герой
Промоботы - наверное, самые известные российские роботы. Работают главным образом гидами, в торговых центрах и на мероприятиях, где нужно развлекать публику. Их умений хватает, чтобы не натыкаться на людей и поддерживать беседу, отпуская глуповатые шуточки. Но и этого оказалось достаточно, чтобы продаваться лучше, чем все остальные российские сервисные роботы, вместе взятые.
Судя по всему, не последнюю роль в этом играет пиар. Сначала Промобот попал в новости как "сбежавший робот": он выкатился с тестового полигона в открытые ворота и остановился посреди проезжей части, создав пробку. Некоторое время спустя робот выступил в качестве агитатора на выборах в Госдуму и был задержан за незаконный одиночный пикет - на него даже пытались надеть наручники.
Но все затмил новый подвиг: подняв руку, Промобот спас девочку, на которую начал падать стеллаж. Создатели говорят, что не знают точной причины рыцарского поступка: то ли робот собирался поздороваться, то ли работал в зеркальном режиме и повторил жест девочки, поднявшей руки.
