Роботы за и против
По оценке газеты Le Figaro, новый проект Амона приближается к тому, на чем без особенного успеха настаивал Вальс. По оценкам Всемирного экономического форума, в г. Каков же выход? Плюс расходные материалы.
Это было сделано, чтобы не затрагивать интересы стран, уже имеющих высокоавтоматизированные или полуавтономные и прочие подобные системы. Военные разработки такого рода, как правило, секретны и строго охраняются, поэтому не всегда можно понять, на что действительно способны некоторые из них. В частности, что станут делать системы в случае потери связи в процессе боевых действий, а это происходит постоянно. Так, Израиль ранее производил дроны-камикадзе, способные атаковать самостоятельно, без участия оператора.
Под давлением общественности производитель изменил модель управления этими беспилотниками. Сегодня он заявляет, что беспилотники работают по команде оператора. Но большая группа международных неправительственных организаций Stop Killer Robots, Article 36, Human Rights Watch, Amnesty International, Control Arms и другие , общественные и религиозные деятели предлагают создать международный договор с превентивным запретом на автономные вооружения.
Запрет поддержали больше 20 стран, в основном государства Африки, Латинской Америки, где военные разработки такого рода не ведутся. Многие страны сегодня разрабатывают автономные системы, и в силу ряда причин убедить их отказаться от этого практически невозможно. Например, очень сложно создать систему верификации для контроля за соблюдением подобного запрета. Но главное препятствие — это, на мой взгляд, атмосфера глубокого недоверия и геополитического соперничества.
Она ведет не к соглашениям, а в конечном счете к прямо противоположному — к глобальной гонке автономных вооружений", — считает Вадим Козюлин. На сегодня участники группы правительственных экспертов сформулировали некоторые принципы, которых страны должны придерживаться при создании военных автономных систем. Главное: любое оружие должно быть под человеческим контролем, человек несет ответственность за него.
Большая часть активистов, требующих запрета САС, настаивают, что искусственный интеллект не способен соблюдать международное гуманитарное право МГП. Однако ведущие страны — производители перспективных вооружений не согласны с этим мнением. Они утверждают, что, напротив, машины смогут лучше человека соблюдать МГП. Также, чтобы получить общее представление об опасениях, связанных с вышеупомянутыми разработками, посмотрите пятиминутный ролик, который организация Future of Life Institute выпустила в преддверии женевской конференции.
В нем показаны вымышленные ситуации на тему того, как военные роботы, вышедшие из-под контроля, могут причинить вред человечеству, если окажутся в руках террористов и преступников. Открытое письмо с поддержкой их позиции подписали более организаций по всему миру и около предпринимателей и ученых, занятых в сфере искусственного интеллекта.
Против запрета высказываются государства, активно инвестирующие в использование искусственного интеллекта для военных нужд, например, США, Израиль, Россия и Великобритания. Как однажды заявил президент РФ Владимир Путин, лидер по созданию искусственного интеллекта "будет властелином мира". США даже пытаются выставить автономное оружие в положительном свете, заявляя, что оно поможет избежать "сопутствующих разрушений".
Ведь компьютер, в отличие от солдата, может быстрее анализировать всю обстановку на поле боя и совершать меньше ошибок, убеждены в Вашингтоне. В ходе последнего раунда консультаций в Женеве американская делегация призвала не клеймить подобные вооружения.
Правительство Германии выступает за "международный запрет" автономных вооружений - это закреплено в коалиционном договоре немецкого кабмина. В то же время Берлин считает тактически неправильным настаивать на нынешних переговорах в Женеве на моратории, так как позиции стран слишком разнятся.
Вместе с Францией ФРГ предлагает промежуточное решение: первым шагом могло бы стать принятие в ООН политической декларации, в которой говорилось бы о важности сохранения контроля человека за автономными системами вооружений. Затем Берлин и Париж предлагают принять военный кодекс поведения, а только потом - непосредственно договор о запрете такого оружия.
По мнению немецких дипломатов, такой многоступенчатый подход даст шанс преодолеть существующие противоречия - ведь к не предполагающей никаких обязательств политической декларации могли бы присоединиться и противники моратория. В то же время этот документ создал бы определенные общие стандарты, открывающие путь к закреплению запрета на самоуправляемое оружие в международном праве. Однако активистам движения "Остановите роботов-убийц" позиция Германии кажется недостаточно жесткой. Они считают, что ФРГ должна быть в авангарде борьбы за немедленный мораторий.
За ней подтянулись бы и другие страны, полагает Томас Кюхенмайстер. Так или иначе, у стран остается все меньше времени для согласования позиций, ведь технологии совершенствуются с каждым днем. Если на переговорах в Женеве не будет достигнут прогресс, давление со стороны гражданского общества станет нарастать, предсказывает Кюхенмайстер.
По его мнению, в таком случае соглашение о моратории на автономное оружие может быть достигнуто вне рамок ООН, как это в свое время произошло с запретом противопехотных мин. В годах правительство Канады и представители еще десятков стран самостоятельно провели ряд конференций, завершившихся Оттавским договором.
На сегодня к соглашению присоединились уже страны. В основном тут, правда, подразумеваются умственные компетенции — пока еще считается, что физический труд человека будет востребован ещё более или менее продолжительный период.
Притом, что в ныне господствующей системе общественных отношений контролировать его движения, оптимизировать, оценивать будет И, если нужно, принимать решение об оплате труда, о премиях и штрафах Такая вот антиутопия. Но означает ли это, что нужно выступать против дальнейшего прогресса, против роста степени автоматизации производства, против возможности неодушевленных инструментов заместить труд людей? Тем более если это труд рутинный, малоинтересный, изматывающий. Нет, конечно! Развитие не остановить, да оно и не собирается останавливаться.
Но что точно нужно всем — это четко осознавать, какие противоречия оно порождает и как их разрешать. А для этого необходимо ни в коем случае не отдавать прогресс в сфере совершенствования автоматических средств производства на откуп конгломерату крупных корпораций, «экосистемам» капитала.
Пока ещё трудится. Каков же выход?
Его нельзя назвать простым, но он представляется необходимым. С прицелом на то, что ключевые инструменты качественно нового производственного уклада, зачатки которого формируются на наших глазах, стали бы общественным достоянием, а не частной собственностью. Как это неизбежно случится, если сидеть сложа руки. Соответственно, в данной статье мы попытаемся в общих чертах обозначить возможные пути решения этой проблемы.
На наш взгляд, приоритетами в этой работе должны стать открытость, бесплатность, системность и всеохватность. То есть все разработки должны быть во всеобщем доступе, без взимания платы с кого бы то ни было. Они должны быть подчинены единой логике и программе развития, а также касаться по возможности всех аспектов — как ориентированного на расширенное воспроизводство системы, так и на конечное потребление граждан.
Принцип всеохватности требует необходимости разработки инструментов, которые призваны осуществлять полезную работу не только в цифровой, виртуальной среде, но и в окружающем нас физическом пространстве. Речь тут не только и не столько об узкоспециализированных роботизированных устройствах, выполняющих задачи в сфере транспорта, управления техпроцессом, сборки, печати, строительства и тому подобное, сколько о «заместителях» человеческих рук , способных функционировать там, где сейчас работают люди.
Причем в такие устройства должна быть заложена максимальная гибкость и независимость. Необязательно, кстати, полностью антропоморфные — варианты конструкции могут быть различными, под те или иные классы задач, в тех или иных средах приложения усилий. Конечно же, с открытой архитектурой , то есть со схемотехнической возможностью быстро заменять одни блоки на другие — как идентичные, так и отличающиеся по ряду параметров. Как это уже на протяжении десятков лет реализовано в персональных компьютерах.
А массовость производства подобных исполнительных устройств, составленных из стандартизированных модулей, должна обеспечить относительную их дешевизну, доступность. Будучи однажды разработанными и внедренными, такие устройства в конечном итоге должны выпускаться в огромном количестве. Они будут иметь ту или иную специализацию, вариативность, принадлежность к различным сериям и модификациям. А, вернее, не столько они сами как целостное изделие, сколько их отдельные составные модули: процессоры, блоки питания, модули связи, двигатели, датчики и т.
Именно так, по нашему убеждению, можно действительно обеспечить качественный скачок в развитии робототехники, которого человечество ждёт по сей день. Понятно, что в локальный контроллер такого исполнительного устройства невозможно, да и попросту не нужно, загружать все знания, компетенции, навыки, методы, приемы — как это представляли, например, фантасты прошлого, обращавшиеся к теме роботизации.
То есть для выполнения производственных задач, где нет и не может быть чётких алгоритмов работы, очевидно, применима нетривиальная и при этом масштабная схема.
Такая схема должна охватывать всю имеющуюся совокупность упомянутых электромеханических «рукоподобных» исполнительных устройств, связанных в целостную систему через единый облачный информационный субстрат. Об этом субстрате — ниже, а пока нужно обозначить примерную схему выполнения оконечных механических операций. Допустим, описываемой автоматической системе — в лице конкретного присутствующего в нужном месте исполнительного модуля, связанного широкополосным каналом с облачным субстратом, требуется выполнить определённую механическую задачу с применением интеллекта.
Что имеется всегда, вне зависимости от поставленной задачи? Манипуляторы, аналогичные человеческой кисти. Возможность перемещаться по поверхности. Визуальные датчики и микрофон — аналоги органов зрения и слуха. И набор внешних инструментов — хотя бы и тех самых, которые используют люди-рабочие. Плюс расходные материалы. При непосредственном выполнении задачи систему можно сравнить с двумя рабочими. Представим, что один из них отвечает за всю непосредственную механическую работу, пусть и не обладая должным опытом, но отличаясь исполнительностью и точностью движений.
А другой находится рядом и ничего не делает руками, но внимательно наблюдает и последовательно даёт чёткие и однозначные указания. Какую именно манипуляцию, с каким предметом, с применением какого инструмента совершить, какие требования соблюсти в каждый момент времени.
То есть аналог рабочего, который непосредственно трудится, в описываемой системе — универсальный робот-манипулятор , а аналог опытного "супервайзера" — ранее упомянутое ИИ-облако. При этом облако, скорее всего, не будет управлять каждым микродвижением исполнительного устройства с точностью до миллиметра — это как раз целесообразно перенести на тот уровень, который может находиться непосредственно в интеллектуальном контроллере манипулятора.
То есть из облака идут команды, что конкретно нужно делать в прикладном аспекте в ходе выполнения задачи, а непосредственные движения регулируются на месте, исходя из того, какие конкретные характеристики имеет данный манипулятор.
Иными словами, команды из облака инвариантны относительно конструкции конкретного исполнительного модуля. Скорее всего, на местном уровне будет решаться и задача перемещения манипулятора по поверхности. Теперь следует более подробно коснуться вышеупомянутого интеллектуального облака.
