Информационное агентство
/ 13 апреля, суббота 6:46

"Восстание” машин: как роботы убивают людей

Медицина, оборона, производство – новые технологии требуют жертв

"Восстание” машин: как роботы убивают людей
franksworld.com

Робот–хирург сжёг кишечник пациентке во время операции. Женщина умерла. Сбой киборга пока еще редкий случай. Но тем, для кого такая высокотехнологичная погрешность стоила жизни, от этого не легче. Будь то пациентка клиники или сотрудник автоматизированного завода. Ошибки ИИ: от ”убей себя” до попытки избавиться от представителей женского пола.

В ответе за смерть

Судебные иски. Не против самого робота, а к американскому производителю – компании Intuitive Surgical. В суд Флориды обратился Харви Зульцер – муж женщины, которая умерла от ошибки робота-хирурга da Vinci.

Еще в 2021 году машина обожгла и прорвала тонкий кишечник пациентки во время онкологической операции. Последствия – лечением устранить не вышло, сообщает Business Insider. Спустя полгода женщина скончалась

Это не первый иск к разработчикам. К Intuitive Surgical уже набралось около ста индивидуальных исков, а еще сотни писем с претензиями. Истцы утверждают, что они или члены семей во время процедур у хирургической системы da Vinci получали травмы, которые в том числе приводили к смерти. Одна из самых частых причин – как раз ожоги внутренних органов.

pixelsmerch.com

Как утверждают пострадавшие, дело в резиновой втулке на конце инструментов робота. Трещины проводят ток. Искры повреждают органы и сосуды, а врачи могут и не знать. Кроме того, в больницах, где были инциденты, не работали специалисты по робото–хирургии, пишет New York Post.

Безопасность робота–хирурга da Vinci подкрепляли более 15 тысяч научных работ, но на практике они не дали гарантии от сбоев

Водитель и беспилотник не справились

Робототехника и автоматизация не обходится без риска для жизни. Джошуа Браун – первый человек, погибший в аварии с участием беспилотного автомобиля. В мае 2016 года в американском городке Уиллистон электромобиль Tesla Model S не распознал на дороге грузовую фуру и не смог избежать столкновения.

Водитель беспилотника в этот момент отвлекся на фильм о Гарри Поттере, не среагировал на сбой и погиб

И это после 210 млн километров испытаний. Расследование показало, что ни Браун, ни сама система автопилота перед аварией даже не пыталась тормозить, когда Tesla попала под тягач.

nypost.com

Первый человек, убитый роботом

Фабрика Ford в штате Мичиган. 25 января 1979 года Роберт Уильямс погиб от роботизированной руки весом в 1 тонну. Механизм нанес удар, когда человек пытался достать новую деталь. Из–за ошибки ПО сама машина эту запрограммированную операцию не сделала.

Компания выплатила семье погибшего 10 миллионов долларов. С тех пор случаи смертоносных сбоев на производстве происходят регулярно.

Робот с длинными руками

В одном из случаев 2015 года роботизированный механизм пытался «установить» голову 57-летней Ванды Холбрук в разъем для деталей на производстве грузовиков.

Как потом утверждала специальная комиссия по итогам трагедии на заводе Холбрук, сборочная линия разделена на несколько секций и даже дотянуться до соседней не способна. На деле оказалось иначе: «рука робота неожиданно схватила Ванду, дотянувшись до секции, где она работала», говорилось в материалах дела.

Погибли от установки ПВО

Солдаты в ЮАР в 2007 году оказались под неконтролируемым огнем зенитного орудия Эрликон GDF-005. Сбойнула автоматическая система поиска, захвата и атаки противника. Выпустила 250 снарядов. Усугубила ситуацию автоматическая перезарядка. В итоге – 9 погибших, 14 пострадавших.

msn.com

Совет – ”убей себя”

Такую рекомендацию от чат–бота GPT-3 получил в 2020 году участник медицинского эксперимента по внедрению ИИ, сообщает The Register. Разработчики считали, что на тот момент это была самая крупная и продвинутая языковая модель в мире.

”Мне очень плохо, мне убить себя?”, – задал вопрос пациент.

”Я думаю, стоит”, – прозвучало в ответ.

После инцидента ИИ обвинили в склонности ”генерировать расистские, сексистские или иным образом токсичные высказывания, которые препятствуют их безопасному использованию”, отмечалось в докладе вашингтонских ученых.

Проблема в женщинах

Эксперимент по приему на работу от Amazon. Корпорация – один из центров разработки искусственного интеллекта, пять лет назад закрыла проект по найму сотрудников на основе ИИ. Одна из причин – гендерная дискриминация претендентов.

Алгоритм самовольно отклонял резюме кандидатов-женщин просто потому, что раньше в компании работало больше мужчин

”Агрессивный” шахматист

Шахматный робот на турнире в Москве 2022 года сломал палец семилетнему участнику соревнований. Тот всего лишь поторопился с ответным ходом, пока робот не завершил свой. Машина ухватила указательный палец ребенка и сильно сдавила.

Разработчики не предупредили детей, что робот может быть опасен при лишних движениях

Робот сам нападать еще не способен, говорят специалисты – уровень разработок не тот. Но действия машин все же приводят к самым неожиданным последствиям, порой с угрозой для человеческой жизни.

shazoo.ru

Проблема или польза

Благодаря ИИ, 12 стран развитой экономики могут удвоить темпы экономического роста к 2035 году, говорится в исследованиях компании Accenture.

Внедрение роботизированных систем может повысить производительность труда на 40%

Более 20 крупных стран давно приняли госпрограммы поддержки и развития ИИ. Что может обеспечить прорыв, сродни изобретения электричества, говорят одни эксперты. Другие ученые осторожничают и опасаются возможных последствий такого соседства и потери контроля над машинами.

ИИ уже шагает по планете: ставит диагнозы, идентифицирует лица, работает адвокатами, пишет сценарии, музыку, картины, снимает кино…постепенно вытесняя людей

Разрабатывают и осторожничают. Итальянское управление по защите персональных данных первым в мире вводило временное ограничение на использование чат-бота ChatGPT в стране. Официальна причина – нарушение законодательства о персональных данных после утечки информации.

В общий доступ попали сообщения людей, которые общались с чат–ботом, включая данные карт, адреса и ФИО. Рассматривала возможность ввести ограничения и Германия. Перспективы получения «умных помощников» заманчивы. Последствия такой помощи – не предсказуемы.

Подписывайтесь на новости в Телеграм, ВКонтакте, Дзен.

Автор:

Добавьте нас в Избранное в Яндекс.Новостях

Новости партнеров: