Чтобы совершить покупку, вам надо авторизоваться или зарегистрироваться .
 
 
 
закрыть
Информация
Чтобы оставить комментарий на www.zakon.ru, необходимо зарегистрироватся.
закрыть
Information
Please note that this is beta English version. Some pages may not be translated. If you experience difficulties, please contact our administrator: moderator@igzakon.ru . We will be happy to assist.
Антон Иванов Александрович юрист
 
Антон Иванов Москва Председатель упраздненного Высшего Арбитражного суда в отставке
 
Антон Иванов читать блог

Кто такие роботы (киборги) с точки зрения права

13.02.2018 — 9:29

(по результатам анализа проекта Модельной международной конвенции о робототехнике и искусственном интеллекте)

В целом идею создания такой международной конвенции следует одобрить (текст её прилагается). Если даже в небольших коллективах в простые понятия люди вкладывают разное содержание, то в масштабах всего человечества однозначная трактовка сложных понятий – наитруднейшая задача. В той мере, в которой конвенция будет способствовать достижению единообразия, её значение трудно переоценить. К сожалению, в части унификации понятий комментируемый проект явно требует доработки.

Прежде всего, конвенция оперирует такими понятиями как робот, киберфизическая система и роботизированный механизм, соотношение между которыми определить трудно. Если не ставить между ними знак равенства (а этот вывод вытекает из текста), то нужно решить, чем они отличаются друг от друга, а также от обычных механизмов. Механизм состоит из частей, связанных физически, и выполняет определенную работу, изменяя окружающий мир. Робот – это тоже механизм, но более сложный. Что позволяет выделить его? Если человекоподобие, то с таким пониманием роботов мы, вроде бы, уже расстались. Если наличие искусственного интеллекта, то определение понятия робота зависит от того, что такое искусственный интеллект.

Добавляет неопределённости и понятие «киберфизическая система». Сделанный в нём акцент на физике создает впечатление о том, что биологических роботов быть не может. Между тем, границы между физикой и биологией давно открыты, поэтому зацикливаться на чём-то одном бессмысленно. Уж лучше использовать термин «робот» или «роботизированный» механизм, хотя биоробота логичнее было бы назвать организмом. На это нас наводит и слово «киборг». Чтобы не допускать жонглирования понятиями, лучше заранее до минимума сузить их количество, но определить каждое более-менее широко, чтобы охватить все аспекты. В этом смысле достаточно остановиться на двух ситуациях: 1) когда робот действует самостоятельно; 2) когда робот (или роботизированный механизм) встроен в человеческий организм. Остальное будет «расщеплением волоса на ладони»…

     
Теперь об искусственном интеллекте. Должен ли он быть обязательным признаком робота (киберфизической системы, роботизированного механизма)? Этот вопрос в проекте конвенции решен противоречиво. С одной стороны, робот предполагает наличие искусственного интеллекта, иначе будет трудно представить то, что позволяет отличить его от обычного механизма. С другой стороны, ст. 1 проекта конвенции допускает существование киберфизических систем без искусственного интеллекта. Причём неясно, как здесь быть с роботами и роботизированными механизмами. В ст. 2 проекта конвенции роботы и киберфизические системы с искусственным интеллектом - разные понятия. А куда относятся роботизированные механизмы? Одним словом, с упомянутыми категориями надо определиться ...

Ситуация осложняется тем, что в проекте конвенции не определён и сам искусственный интеллект. Между тем, применительно к нему, очевидно, проявляется тот же эффект, что и в отношении предела делимости материи. Чем дальше развивается наука, тем глубже оказывается делимость. И если кажется, что предел достигнут, проходит время, и он снова сдвигается. Так и с искусственным интеллектом. Механизмы всё усложняются, а полного подобия человеку искусственный интеллект достигнуть не может. Мы уже многократно превысили многие параметры доступности органам человеческих чувств воспроизведенной искусственно реальности, однако она до сих пор выглядит фальшиво. Люди понимают, где настоящее, а где нет.

Поэтому главное – найти четкий юридический критерий искусственного интеллекта и заложить его в текст проекта конвенции. В чём он может состоять? Ясно, что заранее продуманная человеком последовательность процессов, даже очень сложная, не свидетельствует об искусственном интеллекте. Но сейчас распространяются обучаемые роботы, способные решать новые задачи, т.е. создавать новые последовательности процессов. Пока робота обучает человек, санкционируя те или иные варианты, об искусственном интеллекте говорить рано. Придёт момент, когда обучение в подавляющем большинстве случаев станет ненужным, поскольку почти всё будет решено, причём вариантов (логических цепочек) будет множество и они станут крайне сложными. Человек окажется беспомощным и будет выведен из процесса обучения. Вот тут «по закону подлости» и возникнет ранее не предусмотренная («нештатаная») ситуация… 

Что машина будет делать в такой ситуации? Если ждать человека, но тогда она – не искусственный интеллект. Сама будет выбирать? Тогда должен существовать критерий такого выбора. Будет ли критерием искусственного интеллекта интуитивный выбор им вариантов, основанный на теории вероятности? Вряд ли, поскольку в таком выборе не будет свободы: робот по-прежнему останется рабом вероятности. Что же тогда? Способность искусственного интеллекта самостоятельно формулировать свои задачи? Какие задачи, откуда они берутся и как далеко должны заходить логические цепочки при их формулировании? Есть о чём подумать …, тем более что понятные специалистам в области точных наук критерии будет крайне трудно перевести на юридический язык. Поэтому-то в проекте конвенции их нет.

Помимо определения понятий, проект конвенции порождает и другие трудности.

1.. В ст. 5 «Национальные нормы» речь идёт, видимо, о коллизионных правилах, но чётко они не сформулированы. Подлежит ли применению закон «места использования роботов»? Если да, то как его определять? Та национальная территория, где находится тело робота или основная его часть? А если части находятся в разных юрисдикциях, какая из них будет иметь приоритет?

2. В ст. 6 речь идет о принципе непричинения роботами вреда человеку, человечеству, живым существам и всей среде их обитания. Однако непонятно, закреплён ли принцип абсолютного непричинения вреда роботами. Из текста вроде следует, что непричинение абсолютно, но ст. 7 и 8 придают этому принципу относительный характер. Да и по жизни этот принцип должен быть относительным. Ведь робот, внося изменения в окружающий мир, волей-неволей будет нарушать интересы людей. Поэтому правильным было бы определить такие сферы, в которых причинение вреда без санкции людей было бы абсолютно запрещено. В остальных сферах должен действовать принцип минимизации причиняемого роботами вреда.

3. В ст. 17 проекта сказано, что роботы, осуществляющие физическое взаимодействие с людьми, должны иметь «красную кнопку», позволяющую отключать их по требованию. Правда, что такое физическое взаимодействие, никак не определено. Электронное взаимодействие - это взаимодействие физическое. Может ли клиент требовать принудительного отключения, скажем, банковского робота? Я «за», а как к этому отнесутся банки? Точнее было бы вести речь не о физическом, а о телесном взаимодействии с людьми, как наиболее опасном.

4. В ст. 18 проекта конвенции употребляется термин "создатели роботов", который не коррелирует с понятием "субъекты робототехники" в ст. 1. К последним относятся только разработчики и изготовители роботов, тогда как к первым также и иные лица, причастные к процессу создания роботов. Одним словом, перечни должны «дружить» между собой.

5. Ст. 18-21 проекта конвенции в целом носят декларативный характер. Нормы без санкций имеют очень низкую эффективность. Последствия их несоблюдения нужно продумать.

6. Сомнения вызывает возложение в ст. 28 ответственности за убытки, причинённые роботами, только на их создателей. А как же собственники или владельцы, операторы. Здесь уместна солидарная ответственность всех этих лиц, которая в максимальной степени способна защитить интересы потерпевших.

7. Допуская возможность признания роботов субъектами права в ст. 29, проект конвенции не формулирует критерии, при наличии которых они могут быть признаны таковыми. А эти критерии явно нужны. Ведь признание робота субъектом права предполагает исключение ответственности за него людей. При подобных обстоятельствах данная ответственность может стать эфемерной. Неясно также, можно ли обратить взыскание на робота – субъекта права – как на имущество, или нужны особые способы обеспечения исполнения его обязанностей.

8. Ст. 30 по сути не содержит никакой нормы права.

9. В ст. 31 проекта конвенции речь идёт о "презумпции опасности" искусственного интеллекта. Однако неясно, каковы её последствия? Является ли искусственный интеллект источником повышенной опасности, за действия которого наступает ответственность без вины? Я бы с такой квалификацией согласился, а как быть с субъектами робототехники …

Несмотря на сделанные замечания, проект модельной международной конвенции о робототехнике и искусственном интеллекте представляет собой вполне пригодный для общественного обсуждения документ, а имеющиеся вопросы могут быть решены в ходе дискуссии.

  • 1347
  • рейтинг 2

Похожие материалы

Комментарии(1)

Написать комментарий
  • 13.02.2018 - 10:20 Святослав Иванов

    Ситуация осложняется тем, что в проекте конвенции не определён и сам искусственный интеллект.





    — Ты конченный наркоман, Дамилола, — продолжала она, — и весь мир для тебя — это просто набор поводов, который позволяет твоему мозгу ширнуться или сделать себе клизму. Клизма каждый раз делает тебя несчастным. Но уколы не делают тебя счастливым, а лишь гонят за новой дозой. С наркотиками всегда так. Вся твоя жизнь секунда за секундой — это постоянный поиск повода уколоться. Но в тебе нет никого, кто мог бы воспротивиться этому, ибо твоя так называемая «личность» появляется только потом — как размытое и смазанное эхо этих электрохимических молний, усредненный магнитный ореол над бессознательным и неуправляемым процессом… <…>

    — Тебе сложно будет поверить, детка, но человек — это нечто большее, чем наркоман, отбывающий срок у себя внутри. У человека есть… Не знаю, идеал, мечта. Свет, к которому он идет всю жизнь. А у тебя ничего подобного нет.

    Кая добродушно засмеялась. <…>

    — Мой маршрут нарисован внутри меня программно, — сказала она, — а твой маршрут нарисован внутри тебя химически. И когда тебе кажется, что ты идешь к свету и счастью, ты просто идешь к своему внутреннему дрессировщику за очередным куском сахара. Причем нельзя даже сказать, что это идешь ты. Просто химический компьютер выполняет оператор «take sugar», чтобы перейти к оператору «rejoice 5 seconds». А потом опять будет оператор «suffer», его никто никогда не отменял и не отменит. Никакого «тебя» во всём этом нет.

     

    — Реакции, в результате которых возникает то, что ты переживаешь как «себя», происходят до того, как осознаются. Ими управляют те же физические законы, по которым трансформируется вся Вселенная. Где же здесь тот, кто в состоянии что-то решать и делать? Разве эхо может управлять породившим его криком? В тебе нет никого, кто привязан.

    — А что тогда есть?

    — Есть только постоянно повторяющийся акт прилипания мухи к мёду. Но этот мед существует только как возбуждение в мухе, а муха существует только как реакция на мёд. И в этом единственное содержание всей твоей бесконечно богатой внутренней жизни… <…> Если ты когда-нибудь сможешь разогнать свой вялый ум настолько, чтобы увидеть себя как есть, ты поймёшь главное. Твои мысли, желания и импульсы, заставляющие тебя действовать — на самом деле вовсе не твои. Они приходят к тебе из совершенно неясного пространства, как бы ниоткуда. Ты никогда не знаешь, чего тебе захочется в следующую секунду. Ты в этом процессе просто свидетель. Но твой внутренний свидетель настолько глуп, что немедленно становится участником преступления — и огребает по полной программе… <…>

    — А если я не могу разогнать свой вялый ум?

    — Тогда попробуй рассмотреть свою внутреннюю жизнь на замедленной перемотке. Ты увидишь бесконечное повторение одного и того же сценария. Ты гуляешь по улице, и вдруг зыбкие тени начинают грабить банк на углу. Ты сразу принимаешь в этом участие, поскольку тебе нужны деньги на наркотики — или хотя бы на клизму, чтобы на время про них забыть. В результате ты получаешь тюремный срок, хотя в действительности никакого банка на углу ты не грабил, потому что нигде нет никаких углов. И ты каждый день грабишь иллюзорные банки, и отбываешь за это вечный неиллюзорный приговор… <…> Но на самом деле твоя жизнь — это просто коридор мучений. Среди вас нет ни добрых людей, ни злодеев, а только бедняги, которые хотят чем-нибудь себя занять, чтобы забыть о своей боли. Жизнь — это узкая полоска между огнём страдания и призраком кайфа, где бежит, завывая от ужаса, так называемый свободный человек. И весь этот коридор — только у него в голове. <…>

    (с) Пелевин



    2

 
Чтобы оставить комментарий, вам надо авторизоваться. Текст комментария будет сохранен.

Если вы еще не зарегистрированы на Закон.ру, то сохраните текст комментария и зарегистрируйтесь.