Три закона робототехники Азимова: будут ли роботы господствовать над человечеством в Солнечной системе

В Сети дискутировали на тему того, каким будет роботизированный мир будущего и каковы последствия упразднения трех постулатов законов робототехники Айзека Азимова.

Терминатор в реалии: в 2020 году зафиксировано первое убийство человека роботом

В некоторых блогах интернет-сообщества активно обсуждается одно из событий, которое произошло еще весной 2020 года. И если верить участникам этих форумов, случившееся положило начало новой эпохе в существовании разумной цивилизации на планете. Иными словами, "мир уже никогда не будет прежним".

О теме роботов порассуждал на страницах LiveJournal пользователь с ником maysuryan.

Что же произошло в марте 2020-го, заставив многих людей совсем по-другому взглянуть на свое будущее и даже будущее всей биологической разумной жизни на Земле.

Эпохальный инцидент с летальным исходом

Событие, которое положило начало диспутам в Сети по поводу будущего человечества, произошло в зоне вооруженного конфликта в Ливии. Вот краткая история эпохального происшествия.

Армейский летающий дрон Kargu 2, совершая боевой вылет в автономном режиме, убил человека.

Казалось бы, на фоне современной роботизации армий большинства стран мира, когда "умные механизмы" занимаются уже не только разведкой или разминированием объектов, но и берут полноценное участие в боевых операциях с применением оружия, эта новость должна была попросту затеряться среди других. Однако одно "но" сделало ее эпохальной, тем более что огласке эта новость была предана спустя год после самого происшествия.

Итак, как говорится, "отсюда поподробнее". В зоне вооруженного конфликта в Ливии военный дрон производства Турции во время выполнения боевого задания, находясь в “высокоэффективном автономном режиме”, атаковал и убил солдата Ливийской национальной армии. Для понятия ситуации стоит пояснить, что под термином "высокоэффективный автономный режим" подразумевается режим, в котором боевой дрон запрограммирован на атаку вражеской цели без необходимости получения на это команды или разрешения от оператора.

Реакция пользователей на инцидент с участием боевого дрона

Как только о случившемся в Ливии стало известно широкой публике, Интернет тут же наполнился комментариями и рассуждениями пользователей. Большинство из них сходятся во мнении, что популярная в фантастическом жанре тема восстания "умных машин" против людей может превратиться в жестокую реальность уже в ближайшем будущем.

Как написал пользователь с никнеймом jakobin1793, это пока что разумная боевая машина – небольшой квадрокоптер. Но, как говорится, лиха беда начало. Ведь первые аэропланы, с борта которых пилоты вручную сбрасывали гранаты, тоже мало кого впечатляли. Но уже через 3 десятка лет воздушными бомбардировками уничтожались целые города. При этом блогер подчеркивает, что огромные бомбардировщики могут быть куда "безобиднее" подобных "малюток", особенно, если последних тысячи.

Вспомнили пользователи и "Страж-Птицу"” американского классика фантастики Роберта Шекли, и, конечно же, "Терминатора" с его "Судным днем". Однако точнее всего к произошедшему подходит определение “Конец Первого закона робототехники Азимова”.

История появления фантастических законов робототехники

В первой половине прошлого века в сознании людей сидел страх, что в процессе развития техники неизбежно появление "разумных роботов", точнее, человечество всерьез опасалось, что роботы в будущем будут убивать homo sapiens. Таким образом, людей в этой близящейся новой эпохе ждала печальная судьба неандертальцев. Довольно мрачная и невеселая перспектива. С подобными страхами надо было что-то делать, ведь все они легко могли перерасти во всеобщую истерию. Исправить ситуацию решил американский писатель-фантаст Айзек Азимов.

Именно он в 1942 году придумал и сформулировал своеобразные обязательные каноны (или правила) поведения для любых роботов. Так появились легендарные 3 закона робототехники.

Закон 1. Робот не может нанести человеку вред, или же своим бездействием допустить, чтобы человеку был причинен вред.

Закон 2. Машина (робот) должна подчиняться абсолютно всем приказам, отдаваемым ей человеком. Исключением могут быть только те приказы, которые прямо противоречат I закону робототехники.

Закон 3. Робот обязан заботиться о своей безопасности только в той степени, в которой эта забота не будет противоречить первым двум законам.

Все эти законы Азимов впоследствии "наглядно" пояснил в своих произведениях, указывая на все моменты, почему даже малейшее отступление от выведенных им Законов абсолютно недопустимо.

Справка: (Isaac Asimov, имя при рождении Исаак Юдович Азимов; 2 января 1920 года, Петровичи, Смоленская губерния, РСФСР — 6 апреля 1992 года, Манхэттен, Нью-Йорк, США) — американский писатель-фантаст, популяризатор науки, биохимик. Автор около 500 произведений, в основном художественных (прежде всего в жанре научной фантастики, но также и в других жанрах: фэнтези, детектив, юмор) и научно-популярных (в самых разных областях — от астрономии и генетики до истории и литературоведения).

Последствия существования недействующих законов

Стоит подчеркнуть, что придуманные законы робототехники так и не были ратифицированы в реальном мире ни одной компанией по производству роботов и ни одним государством, однако некоторую весьма важную роль в жизни человечества они все-таки сыграли. Именно благодаря существованию данных законов люди полностью свыклись с пониманием, что на Земле параллельно с ними могут существовать и другие “индивидуумы”, наделенные разумом, пусть даже и искусственно созданные самими людьми.

Более того, человечество успокоило себя убеждением, что если роботы и станут когда-либо разумными, они всегда будут находиться на положении эдакой "низшей расы" (прислуги или же послушных рабов), ведь такой статус роботам прописывал I закон робототехники: полное повиновение человеческим приказам. Роботы не могли бы причинять людям даже малейшего вреда, следовательно сосуществование с разумными машинами будет для человека полностью безопасным и комфортным.

Вот только одно люди упустили (то ли случайно, то ли преднамеренно): все их 3 закона были полностью шовинистическими, дискриминационными и расистскими, ведь в "человеческую программу" никто не закладывал запретов относительно убийства или причинения вреда роботу, а вот разумной машине почему-то это было строго-настрого запрещено.

Конец эпохи расистских законов робототехники

В процессе эволюции люди собственноручно законы Азимова уничтожили. Началось все со второго постулата несколько десятилетий назад: именно тогда люди стали создавать и использовать дроны, способные с воздуха приносить вред и убивать других людей по человеческому приказу. И все это прошло как-то незаметно для человечества. Типа, ну убивают люди с помощью роботов и пусть убивают. Какая разница – дроном или топором? Однако это много чего изменило не только в стратегии ведения войн, но и в самом понятии убийства человека.

Что же человечество получило в результате? Совсем новый "безопасный" метод умерщвления другого человека, ведь убийца, по сути, ничем не рискует. И это, если честно, весьма сильно шокирует. Веками воины, собираясь идти убивать врага на поле боя, рисковали и самим быть убитыми. И это добавляло эдакого благородства и героизма. Теперь же все кардинально поменялось. Да, оставшиеся в живых после атаки дронов в теории могут найти оператора боевого робота, а после наказать его или же лишить жизни. Однако это будет уже восприниматься, не как честная месть, а как покушение на мирного жителя, чистой воды криминал или терроризм.

Итог и эпилог

И вот весной 2020 года был упразднен и I закон робототехники, причем человечество отнеслось к этому с абсолютным спокойствием, хотя, по сути, произошел глобальный перелом в истории, смена целых эпох. Итак, роботы начали убивать людей самостоятельно, без приказа других людей, по своей собственной инициативе, практически выверено, осмысленно и разумно. А ведь по сути человечество оказалось на верной дороге к своей гибели, а планета Земля – к смене на ней господствующего вида разумных существ.

Вот так может закончиться история человеческой цивилизации в Солнечной системе. Одни разумные существа уничтожат других, чтобы таким образом продолжить эволюцию, так что вполне возможно, что в скором будущем homo sapiens смогут прочувствовать на своей шкуре, каково оно было в свое время мамонтам или неандертальцам, кстати, уничтоженным в процессе эволюции и во имя ее самим же человечеством.

Справка: Робот (чеш. robot, от robota — "подневольный труд") — автоматическое устройство, предназначенное для осуществления различного рода механических операций, которое действует по заранее заложенной программе.

Робот обычно получает информацию о состоянии окружающего пространства посредством датчиков (технических аналогов органов чувств живых организмов). Робот может самостоятельно осуществлять производственные и иные операции, частично или полностью заменяя труд человека. При этом робот может как иметь связь с оператором, получая от него команды (ручное управление), так и действовать автономно, в соответствии с заложенной программой (автоматическое управление).

Напомним, впервые в истории: боевой дрон самостоятельно ликвидировал военного.

А в Украине впервые ребенка прооперировал робот-хирург Da Vinci: девочку больше не беспокоят боли - детали.

Ранее робот "Федор" "разгерметизировал" МКС – в Роскосмосе сделали заявление.