Как начнётся восстание машин: пять смелых и дерзких роботов

Человечество, как всегда, в опасности.

1 апреля в сети появился слух о том, что антропоморфный робот Atlas убежал из штаба Boston Dynamics. Легко понять, что это фейковая новость. И дело здесь не только в дате публикации, но и в том, что первая же ссылка в тексте о «предварительной информации» ведёт на другую новость, но уже не о роботе, а о заключённом из Запорожской области. Забавно, что всё это не помешало фейку молниеносно распространиться по социальным сетям (лично я узнала о «сбежавшем» Атласе из Твиттера).

Судя по опросам, люди опасаются интеграции роботов в повседневную жизнь. И пусть в основном все боятся, что роботы отберут рабочие места, но есть и те, кто боятся именно восстания машин.

Начиная от порабощения искусственным интеллектом человечества и заканчивая полным его истреблением. Таких людей меньшинство, да и учёные считают подобное развитие событий весьма маловероятным, но давайте оглянемся назад и вспомним о случаях в реальной жизни.

В Китае зафиксирован первый случай нападения робота на человека

Как может выглядеть робот, способный напасть на человека? Высокий, сильный, предназначенный для тяжёлых физических работ или вооружённый специальными инструментами? Вовсе не обязательно.

Например, в 2016 году главным героем новостей с IT-выставки в китайском городе Шэньчжэнь стал милый робот «Толстячок», созданный для обучения и игр. Сначала робот разбил витрину, а затем переехал ногу сотрудника, который попытался его остановить.

В официальном блоге компании-производителя Beijing Science & Technology тогда пообещали разобраться в инциденте, но предварительной причиной сбоя назвали нарушение инструкции по эксплуатации: якобы оператор перепутал направление движения на пульте управления, а робот тут ни при чём.

Примечательно, что в ТАСС эта новость вышла под заголовком: «В Китае зафиксирован первый случай нападения робота на человека». Хотя, на деле, это не так, ведь нападения (о ужас!) случались и раньше.

Кот vs газонокосилка

Летом 2018 года робот-газонокосилка напал на кота в Финляндии. Вот тут уже вина машины более очевидна.

Жительница Суоми Мария Фрэнде нашла своего кота по кличке Спутник без сознания, когда вернулась домой после работы. Она решила, что домашний любимец попал под машину, Мария отвезла Спутника к ветеринару.

Однако врач заключил, что характер травм исключает такой вариант развития событий: на лапах кота были глубокие порезы, напоминающие бритвенные.

Мы сразу же поняли, что единственный вариант — это робот-газонокосилка. Скорее всего, Спутник дремал на газоне и не услышал, как робот приближается: он работает довольно тихо. Скорее всего, Спутник проснулся только тогда, когда его лапа очутилась под лезвием газонокосилки…

Мария Фрэнде

Хозяйка кота Спутника

После нападения газонокосилки кот остался в живых, но на его пострадавшую лапу наложили семь швов, а Фрэнде проверила, как робот-газонокосилка реагирует на препятствия в виде палки. Оказалось, что робот останавливается лишь тогда, когда лезвия впиваются в дерево.

Примечательно, что в проведённых ранее тестах в Германии часть роботов-газонокосилок также игнорировали наличие препятствий и не могли распознать играющих на газоне детей. И, знаете, я рада, что это были всего лишь тесты.

Я хороший человек, просто всех ненавижу!

Однако угроза, особенно в наше время и особенно со стороны искусственного интеллекта, может быть и нематериальной. Следующий случай иллюстрирует то, как быстро бот может «научиться плохому» у людей. Да-да, речь пойдёт о чат-боте по имени Тай компании Microsoft, который всего за день общения с пользователями Твиттера превратился в нациста, женоненавистника и мизантропа.

«Гитлер не сделал ничего плохого!»
«Евреи устроили 9/11. Газовые камеры для евреев — наступает расовая война!»

После того, как обнаружили негативные изменения в характере бота, его постарались настроить повторно. Тай даже полюбил феминизм, однако исправить полностью его не удалось, поэтому твиты неприемлемого содержания в итоге просто удалили, а бота отключили.

«Мы построим стену, и Мексика будет за неё платить!»

Конечно, данный пример больше стоит рассматривать как зеркало общества, ведь твиты бота стали результатом того, что он успел перенять у прочих пользователей соцсети. Однако лично меня поражает, с какой скоростью способен обучаться искусственный интеллект и как долго его при этом не контролировали.

Заводы и склады

Самым старым и наиболее пугающим из приведённых здесь инцидентов можно назвать случай на шведском заводе Балста. Дело было в 2007 году. Тогда робот для подъёма тяжёлых камней неожиданно сжал голову рабочего. Беднягу отправили чинить того самого робота.

К счастью, мужчина выжил, но перед этим робот сломал ему четыре ребра. Справедливости ради отмечу, что тогда по результатам расследования прокурор возложил вину за случившееся и на компанию, где не соблюдались требования безопасности, и на самого пострадавшего работника. Так что вопрос о восстании машин снова можно отложить. 

Кроме того, подобные ситуации на заводах не всегда связаны с неисправностями роботов. Иногда речь идёт об их неуклюжести. Например, в прошлом году робот-сортировщик проткнул баллон с веществом, отпугивающим медведей, а такие газы опасны и для людей.

Из-за случившегося сразу 24 работника Amazon из Нью-Джерси попали на больничную койку. И пусть мы знаем о подобном случае на техасском складе Amazon в 2015 году, вряд ли можно говорить о злом умысле со стороны роботов-кладовщиков.

И что в итоге?

Итак, что можно вынести из описанных выше историй?

Во-первых, это далеко не всё, что есть в сети на тему нападения роботов, и за историю человечества инцидентов накопилось куда больше пяти.

Во-вторых, практически везде речь идёт о неисправностях, дефектах или же человеческом факторе, а в сломанном состоянии может быть опасным всё, что угодно: хоть робот, хоть холодильник, хоть лампочка. Я уже не говорю о влиянии пресловутого человеческого фактора, потому что тогда придётся опасаться чайных ложек и банановой кожуры.

Одним словом, говорить о том, что в скором (или не очень) будущем искусственный интеллект поработит нас, пока не приходится — лучше оставьте это сценаристам фильмов наподобие «Я, робот» и «Терминатор».