По соседству с роботом

В январе в Лас-Вегасе прошел международный фестиваль электроники CES 2018, на котором показали последние новинки в областях робототехники и искусственного интеллекта. На CES все еще раз убедились, что в недалеком будущем умные машины займут значительную часть нашей жизни: роботы-официанты, умные домашние животные, которые сами себя накормят, дороги, занятые исключительно беспилотными автомобилями. IMC собрал экспертов в области интеллектуальных систем, философских наук и юриста, чтобы обсудить с ними проблемы взаимоотношений человека и ИИ.

Насколько перспектива будущего, в котором люди, искусственный интеллект и робототехника будут тесно взаимодействовать в повседневной жизни?

Алексей Потапов, доктор технических наук, профессор Санкт-Петербургского национального исследовательского университета информационных технологий, механики и оптики: Это недалекое будущее, которое в какой-то степени уже наступило. Наше общество за последние два-три десятилетия тесно срослось с системами искусственного интеллекта. Многие из нас их просто не замечают, делая банковский перевод или бронируя авиабилеты. Да и бытовая техника, если не роботизирована, то снабжена элементами искусственного интеллекта. Роботам-пылесосам и газонокосилкам – 15 лет. Роботы-официанты уже не новость. Автомобиль, умеющий парковаться, можно купить в любом автосалоне. Беспилотные автомобили уже существуют. Может, они не готовы еще к российским реалиям, но до этого не так много осталось

В концепции закона о робототехники Дмитрия Гришина, основателя фонда Grishin Robotics прописаны несколько сценариев, которых объединяет тезис о том, что нельзя конструировать роботов, способных причинить вред человеку, иначе их действия попадут под уголовное право. Звучит как парадокс.

Можно ли в принципе создать машину, которая не навредит?

Алексей Потапов: Вопросы совершенно справедливые, и все еще хуже. Если мы не говорим о роботах, принимающих осмысленные решения и пока являющиеся фантастикой, то слово «робот» в этих пунктах можно заменить словом «предмет». Получается довольно глупо. Без дополнительных уточнений конструирование робота-убийцы ничем не отличается от создания обычного оружия. Можно ли сделать предмет, которым вообще нельзя причинить вред человеку? Очень сложно. Убить можно и банковской картой. Конечно, роботы отличаются от обычных предметов большей автономностью. Но этот переход очень плавный. Робот-манипулятор на производстве – тоже робот. И он вполне может причинить вред человеку, естественно, непреднамеренно. Но если это произойдет по неосторожности самого человека, то никто – ни робот, ни его разработчик не будет виноват, только сам человек.

Алексей Кислов, заведующий кафедрой онтологии и теории познания Уральского гуманитарного института (УГИ) УрФУ: Так называемые «Три закона робототехники» в иронично-художественной форме предложил еще известный писатель-фантаст Айзек Азимов. Он говорит о презумпции первичной ценности человека, которую необходимо заложить в машину. Интеллектуальная система не должна руководствоваться неким искусственным чувством самосохранения. Она должна руководствоваться принципом сохранения человека. Сделать это очень сложно. По крайней мере, социум, провозглашая моральные ценности, как показывает история, с этим не справлялся. Попытки справедливо распределить все ресурсы и ценности приводили прямиком к тоталитарной организации общества. В обсуждаемой нами ситуации технология автономных машин является дополнительным ресурсом для возникновения такого общества.

Дмитрий Анкин, профессор кафедры онтологии и теории познания УГИ УрФУ: Все дело в том, в чьих руках будет сосредоточена эта технология. Если в руках централизованной власти – это может закончиться очень плохо. Если в руках децентрализованной – последствия будут менее губительны, и они будут исправляться.

Андрей Комаров, отдел Интеллектуальных систем и робототехники УрФУ: Я думаю, что в настоящий момент не может идти речь об ответственности роботов, только об ответственности разработчика.

В законе Гришина предлагается использовать для роботов то же юридическое регулирование, что и для животных. Как вы на это смотрите?

Андрей Комаров: Существует два подхода в областях развития искусственного интеллекта и робототехники. Один называют синергетическим: в нем разные группы разработчиков проектируют системы искусственных рук, искусственных ног. Кто-то занимается системой компьютерного зрения, кто-то пытается внедрять когнитивные структуры в управляющие системы. И с точки зрения этой парадигмы синергия этих разработок «соединится», и мы получим робота, которого видят фантасты в своих образах будущего.

Существует и другая парадигма – эволюционный подход. Его приверженцы считают, что роботы в своем развитии должны пройти некоторые этапы, так же как и биологические системы прошли некоторые этапы. И только тогда, спустя время, когда пройдет эволюционный процесс, роботы будут сопоставимы хотя бы с животными.

Какие на данный момент возникают проблемы, связанные с роботами и искусственным интеллектом, требующими вмешательства юриста?

Елизавета Разина, старший юрист юридической фирмы «Ветров и партнеры»: Среди актуальных проблем «робоправа» можно назвать кибербезопасность, разграничение ответственности за действия роботов, принадлежность прав на изобретения и произведения, создаваемые роботами.

Кибербезопасность обеспечивает защиту личных данных пользователей информационных продуктов, в том числе объектов искусственного интеллекта, от несанкционированного доступа и использования. Это связано с понятием цифровой войны и угрозой национальной безопасности.

Искусственный интеллект относительно независим от решений, принимаемых человеком. Здесь возникает вопрос: кто в случае чего, будет отвечать за действия робота – разработчик, пользователь или фактический владелец? Однозначного ответа на этот вопрос пока нет, поскольку все упирается в технический аспект и возможные степени автономности искусственного интеллекта. С последними, кстати, связана еще одна немаловажная проблема, как принадлежность прав на изобретения, произведения, созданные роботами.

Есть ли какие-то юридические концепции, кроме проекта Дмитрия Гришина, регулирующие отношения между людьми и искусственным интеллектом, роботами?

Елизавета Разина: Сейчас ни одна страна мира не может похвастаться наличием четких правил регулирования отношений в сфере искусственного интеллекта.

В 2018 году должна появиться очередная российская концепция от рабочей группы во главе с вице-президентом по корпоративным и правовым вопросам МТС Русланом Ибрагимовым. Ее цель - попытаться сформулировать понятие искусственного интеллекта, роботов, определить возможные сферы и особенности их применения.

Представим ситуацию: в беспилотном автомобиле находится один человек. Вдруг на пути следования машины возникает группа людей. Путем простого математического вычисления машина выберет условно «убить одного» и спасет несколько жизней, потому что большинство ценнее, чем один. Можно ли обезопасить человека от линейного мышления интеллектуальной системы?

Алексей Потапов: Во-первых, как описанную ситуацию вообще можно разрешить? Я сомневаюсь, что человек сможет совершить какой-то гениальный маневр, чтобы избежать чьей-либо гибели. Скорее, здесь преимущество будет у автопилота, который может обладать навыками экстремального вождения, которыми мало кто из людей обладает. Во-вторых, выберет ли автопилот гибель пассажира, зависит от заложенных в него критериев. Вряд ли люди будут покупать или использовать автомобили, не отдающие предпочтение жизни пассажира, если производителей автомобилей к этому не будут принуждать юридически (что весьма нетривиально).

Андрей Комаров: Все, что может быть предложено разработчиками, может быть принято. Если разработчик предлагает линейный алгоритм – система будет действовать таким образом, если закладывает какие-то обходные пути, лазейки – машина будет мыслить с учетом этого.

Дмитрий Анкин: Насколько я знаю, уже сейчас существуют нелинейные системы. Например, AlphaZero (Шахматная программа, разработанная в Google, созданная как искусственный интеллект на основе технологий нейросетей. – Прим.ред.). Элементы креативности она не несет, но невероятно быстро обучается любой игре, так что выигрывает у чемпионов. Остается распространить эту обучаемость.

Нужны ли роботам эмоции? Представим, к примеру, няню-робота. Если ребенок окажется в опасности, не лучше ли будет, чтобы робот обладал таким мощным эмоциональным феноменом как материнский инстинкт? Так он сделает все, чтобы спасти ребенка

Алексей Кислов: А разве недостаточно будет тех алгоритмов защиты ребенка, которые будут заложены в этого робота, чтобы он выполнял свою работу, зачем конкретно ему эмоции? Лучше пусть он будет чем-то вроде инкубатора для ребенка – это и обеспечит безопасность последнего. Но возможность имитации эмоционального реагирования весьма интересна для роботов, вступающих в коммуникацию с человеком, например, с тем же ребенком.

Дмитрий Анкин: Мама действует по алгоритмам очень сложным, которые формировались на протяжении миллионов лет, и если то же можно сделать по простым алгоритмам, связанным с эндокринной системой, почему бы это не сделать.

Готово ли современное общество к масштабному внедрению ИИ в сферу нашей коммуникации?

Андрей Комаров: В Японии сейчас на государственном уровне принимаются программы, ограничивающие развитие робототехники. Несмотря на всю готовность общества, в каких-то сферах, особенно в сфере производства, японцы не хотят терять свою квалификацию, рабочие места, которые могут отобрать у них интеллектуализированные системы. Такая политика японского правительства должна привести к тому, что роботы займут, прежде всего, нишу сфер досуга, развлечений. А повышение уровня роботизации в сфере производства в дальнейшем не планируется. Мне кажется, надо очень внимательно изучать их опыт в смысле социальных аспектов роботизации, интеллектуальных систем.

Мы не будем бояться навредить машине, ведь ей не будет больно. Может ли это извратить нормы морали в отношениях между живыми людьми?

Андрей Комаров: Мне сразу вспоминается случаи, их довольно много, когда владельцы автомобилей порой иногда так любят своих «железных коней», так трепетно к ним относятся, что готовы покалечить человека, который случайно заденет их транспортное средство. То есть для них порой, люди и их здоровье не представляют такой ценности, как их машины.

Алексей Кислов: Это ведь проблема не искусственного интеллекта! Конечно, такие ситуации могут возникнуть. Если какое-то устройство вовлечено в повседневную жизнь человека, в коммуникацию, имитирует ее, то могут возникнуть девиации подобного характера. Что поделать, у психиатров будет больше работы. Роботизированное отношение к человеку – это интересный вопрос. Но он связан не конкретно с искусственным интеллектом, а с технологизацией общества в целом.

Дмитрий Анкин: Есть один важный аспект: к человеку мы многообразно относимся. Можно человека рассматривать как информационную систему, можно как животное. Если мы рассматриваем человека как животное, мы должны сказать, что мы все приматы. Если как к информационной системе, мы должны сказать, какая эта система, с какими характеристиками. Это вполне нормально. Это так же нормально, как если ваш врач не пытается проникнуться вашим душевным состоянием, когда борется с инфекционной болезнью. Мы не всегда должны относиться к окружающим с сочувствием.

Андрей Комаров: Что касается вопроса о создании биороботов, то такие технологии уже есть. И становление биороботов субъектами повседневных взаимоотношений может породить опасность. Например, если у человека протез руки, то, наверное, врач по-другому будет относиться к возможности ампутации. А если существо целиком состоит из деталей, которые можно заменить?

Дмитрий Анкин: В конечном итоге это породит новое моральное отношение к таким системам. Мы владеем разными видами такого отношения. Мы морально относимся не только к людям, но и к животным.

Андрей Комаров: Такая проблема возникнет, когда роботы станут автономными. Пока они практически не автономны.

Как подготовить общество к адекватному взаимодействию с ИИ и роботами?

Андрей Комаров: Надо способствовать тому, чтобы люди ориентировались в технологиях ИИ, начиная с довольно раннего возраста. Сейчас существует много школ робототехники для детей разных возрастов. В Екатеринбурге существует 18 таких школ и курсов. Если дети будут уметь работать с ИИ, то они будут видеть и его границы.

Фото: kinopoisk.ru