Уроки развития автономных транспортных средств и их неудачи

Путь к полностью автономным транспортным средствам (AV) пленил общественное воображение и привел к миллиардам долларов в исследованиях и разработках. Тем не менее, для всех технологических скачков — массивов LIDAR, которые отображают окружение в реальном времени, нейронных сетей, которые обрабатывают шаблоны трафика — путь был завален громкими неудачами, смертельными авариями и отрезвляющими техническими реалиями. Эти неудачи, хотя и болезненные, превратились в набор бесценных уроков, которые выходят далеко за рамки автомобильной промышленности. Понимание того, что пошло не так и почему важно не только для разработчиков AV, но и для любой организации, преследующей смелые инновации с высокими ставками.

Исторический фон развития автономных транспортных средств

Идея беспилотного автомобиля не нова. Еще в 1920-х годах на выставках появились радиоуправляемые автомобили, но серьезные исследования начались в 1980-х годах с появлением компьютерного зрения и робототехники. Сегодняшний AV-ландшафт является продуктом десятилетий постепенного прогресса, перемежающегося поворотными вехами и случайными отсталыми шагами.

Ранние эксперименты: 1980-2000-е годы

В 1986 году в Европе был запущен проект EUREKA Prometheus, целью которого было создание автономных возможностей вождения. Во главе с Mercedes-Benz и Мюнхенским университетом Бундесвера проект создал фургон VaMoRs, который мог автономно перемещаться по трафику к 1995 году. Через Атлантику система NavLab Университета Карнеги-Меллона продемонстрировала ведение полосы движения и предотвращение препятствий. Эти ранние системы опирались на элементарное компьютерное зрение и управление на основе правил, доказывая, что автоматизация возможна — если только в контролируемых условиях.

DARPA Grand Challenges и квантовый скачок

Поворотный момент наступил с Гранд-Вызовом DARPA в 2004 году. Агентство перспективных исследовательских проектов Министерства обороны США предложило приз в размере 1 миллиона долларов за автономный автомобиль, способный пересекать пустыню Мохаве. В первый год ни один автомобиль не был закончен; лучший исполнитель проехал всего 7,4 мили. Но конкуренция зажгла инновации. В 2005 году пять автомобилей завершили 132-мильный курс, а к 2007 году Urban Challenge, такие команды, как Стэнфорд и Карнеги Меллон, занялись городскими улицами с правилами дорожного движения и другими автомобилями. Проблемы доказали, что автономия в ограниченных условиях была достижима и привлекла лучших инженерных талантов, в том числе многих, кто позже основал AV компании.

Рост коммерческих усилий: Google, Tesla и Uber

Проект беспилотных автомобилей Google начался в 2009 году, позже он стал называться Waymo. К 2015 году парк Waymo проехал более миллиона миль по дорогам общего пользования. Tesla представила свою систему автопилота в 2014 году, используя набор камер и радаров — без LIDAR — и собрала огромные данные о парке автомобилей через обновления в воздухе. Uber, видя стратегический императив, запустил свою группу передовых технологий (ATG) в 2015 году, стремясь заменить водителей-людей автономными автопарками. Эти коммерческие усилия ускорили сроки и подпитывали общественные ожидания, но они также подготовили почву для некоторых из самых публичных сбоев.

Основные неудачи и неудачи в разработке автономных транспортных средств

Несмотря на технический прогресс, история АВ прерывисто связана с инцидентами, которые выявили критические недостатки. Эти неудачи варьируются от фатальных аварий до стратегических ошибок, каждый из которых предлагает предупреждение о разрыве между лабораторными возможностями и непредсказуемостью в реальном мире.

Смертельные аварии и проблемы безопасности

Самые разрушительные сбои связаны с гибелью людей. В мае 2016 года Tesla Model S, работающая на автопилоте, врезалась в грузовик, пересекающий межштат во Флориде, убив водителя. Расследование показало, что ни система, ни водитель не распознали белую сторону грузовика против яркого неба. В марте 2018 года автономный испытательный автомобиль Uber в Темпе, штат Аризона, нанес удар и убил пешехода, который шел на велосипеде по темной улице. Программное обеспечение автомобиля обнаружило пешехода за шесть секунд до удара, но классифицировало ее как ложноположительный, а затем решило, что экстренный маневр будет слишком агрессивным. Резервный оператор смотрел телешоу на ее телефоне. Эти инциденты выявили не только сбои датчика и восприятия, но и дефектный дизайн системы и человеческий надзор.

В период с 2016 по 2023 год Национальное управление безопасности дорожного движения (NHTSA) открыло десятки расследований аварий с участием систем помощи водителю, таких как автопилот. Хотя полная автономия (уровень 4-5 SAE) в этих случаях не была развернута, уроки применяются непосредственно: чрезмерная зависимость от частичной автоматизации может быть опасной , и передача между человеком и машиной остается слабым звеном.

Ограничения датчиков и экологические проблемы

Автономные транспортные средства зависят от датчиков - камер, радаров, LIDAR и ультразвуковых - каждый со слепыми пятнами. Неблагоприятная погода является постоянным противником. Сильный дождь, снег, туман и блочные лазерные импульсы рассеивают свет и блокируют лазерные импульсы, ухудшая восприятие. Производительность LIDAR падает в условиях, которые индустрия называет «сенсорной» погодой. Системы на основе камер борются с низкими углами солнца, накоплением грязи и ночными бликами. Радар предлагает дальность и надежность, но не имеет углового разрешения, чтобы отличить пешеходов от указателей.

Даже в ясных условиях, крайних случаях предостаточно. Детский велосипед частично затенен кустом, матрас упал с грузовика, полицейский размахивает движением вокруг аварии - эти «угловые случаи» обнажают статистическую хрупкость моделей машинного обучения. В то время как компании накапливают миллиарды смоделированных миль, реальное распределение событий тяжелое. Одно исследование от RAND Corporation подсчитало, что для демонстрации 20%-го сокращения смертельных случаев по сравнению с водителями-людьми, AV должны были бы проехать миллиарды миль в натуралистических условиях. Это масштаб, которого не достигла ни одна компания, и неудачи доказывают, что моделирование не может заменить редкие, но катастрофические сценарии.

Обещание и недопоставление

Неудачи в разработке AV не являются чисто техническими; они также являются неудачами в управлении ожиданиями. В 2016 году Uber заявил, что запустит парк самоуправляемых такси в Питтсбурге в течение нескольких месяцев. Он никогда не материализовался в масштабе. Илон Маск Tesla ежегодно предсказывает «полные возможности самоуправляемости» в течение года, только чтобы неоднократно продвигать временную шкалу. Waymo, более осторожный, по-прежнему работает только в ограниченных географических регионах и условиях. Разрыв между маркетинговой шумихой и доставляемой технологией подорвал доверие общественности и привел к регулятивной реакции. Например, DMV Калифорнии отозвал разрешение на AV-тестирование Uber после смерти Темпе, требуя более высоких стандартов безопасности.

Миллиарды людей устремились в стартапы, которым не хватало жизнеспособных путей к автономии 4-5 уровня. Когда в 2022 году закрылся Argo AI (при поддержке Ford и VW), это стало суровым напоминанием о том, что даже хорошо финансируемые команды не могут преодолеть фундаментальные технические и экономические проблемы. Урок ясен: организации должны установить реалистичные временные рамки и честно сообщить об ограничениях современных технологий.

Этические дилеммы в процессе принятия решений

Неудачи также выявили нерешенные этические вопросы. Как АВ должно расставлять приоритеты в исходе неизбежной аварии? Должен ли он сначала защитить своих пассажиров или минимизировать общий вред для общественности? Часто цитируется «проблема тележки», но реальные дилеммы более приземленные, но одинаково проблематичные. Например, АВ может потребоваться решить, следует ли мягко тормозить пешехода или сворачивать в велосипедиста, чтобы избежать столкновения сзади. Не существует универсально принятой структуры.

В 2016 году MIT Media Lab провела глобальный опрос — эксперимент «Моральная машина» — в ходе которого было собрано 40 миллионов решений по этике АВ. Результаты показали, что предпочтения сильно различались в разных культурах. Некоторые страны предпочитали щадить молодых людей по сравнению со старыми; другие отдавали приоритет большему количеству жизней. Без четких нормативных указаний производители сталкиваются с потенциальными судебными исками независимо от их запрограммированного выбора. Неспособность установить этические стандарты заранее задержала развертывание и вызвала общественную обеспокоенность.

Критические уроки, извлеченные из неудач

Из этих неудач индустрия извлекла с трудом завоеванную мудрость. Уроки применимы не только к автономному вождению, но и к любой сложной системе ИИ, развернутой в критически важных для безопасности областях.

Необходимость строгих испытаний и моделирования

Неудачи подчеркивают, что тестирование должно охватывать всю область оперативного проектирования (ODD). Хотя моделирование может ускорить воздействие редких событий, оно не может заменить структурированные испытания в реальном мире с водителями безопасности и телеметрией. Подход Waymo - запуск тысяч автомобилей в контролируемой программе проката в Аризоне - демонстрирует постепенную валидацию. Но даже Waymo потерпел небольшую аварию с велосипедистом в 2023 году, показывая, что крайние случаи сохраняются. Урок: тест широко, часто и никогда не предположить, что система «сделана».