Критика чистой футурологии – так, наверное, можно было бы озаглавить этот текст. Речь пойдёт о прогнозах относительно того, что беспилотные автомобили полностью вытеснят обычные, и что в результате этого исчезнет сам институт частного автомобиля, будучи заменённым каршерингом.
Тут надобно сказать, что футурология – вещь в принципе не всегда благодарная. Достаточно посмотреть, как жизнь в наше время представляли лет 50-100 назад. Тому есть много причин. И прорывы возникают в неожиданных для футурологов (да и для всех остальных) областях науки и техники. И сами футурологи принимают во внимание развитие техники (как они представляют), но не принимают во внимание те нужды, которые эта техника может и должна удовлетворять, ибо здесь тоже спрос рождает предложение.
В этих конкретных прогнозах сомневаться заставляют несколько причин. Среди них имеющие отношение как к технике, так и к человеческому обществу, человеческой психологии и человеческим потребностям.
Начнём с первых. Возможности создания автопилота, который бы полностью заменил водителя, ограничены принципом работы компьютера: что запрограммируешь, то и получишь…
Что можно научить его делать наравне с человеком или лучше? Избегать столкновения, как говорят наши эксперты-автотехники, с момента возникновения опасности. Это да, это реально. И в некоторых случаях реакция компьютера будет лучше человеческой. В качестве помощника для водителя это может принести пользу, в зависимости от того, как систему настроить.
Чему компьютер научить нельзя? Предсказывать ситуации, которые не возникали у него и у программиста.
У меня в 2009 году зимой по дороге из Хмельницкого была “интересная” ситуация. Дорога по одной полосе в каждую сторону, укатанный снег, по бокам снеговые отвалы. Еду себе спокойненько 60-70 на полном приводе. Подъезжаю к довольно плавному левому повороту. И тут из-за этого поворота выезжает фура, и её начинает выносить на мою полосу. Где-то 2/3 полосы она занимает. Хорошо, что успел просчитать ситуацию: у меня внедорожник, шины – высокопрофильные и узкие, дорожный просвет большой, полный привод включен. Ухожу в снег, пробивая колёсами эту “стену” а она там довольно высокая. Фура проскакивает мимо… Был бы на легковой – эта стена довольно спрессованного снега меня бы откинула обратно под фуру.
Какой компьютер (даже если предположить, что он будет управлять аналогичным по характеристикам автомобилем) сможет в такой ситуации просчитать все эти факторы? Никакой. Для него стена снега будет просто препятствием.
Таких ситуаций множество. Все не пропишешь. Пока что ни один из проектов беспилотников не предполагает ни камер, ни «мозгов», которые бы имели возможность распознавать образы на уровне человека. А тем более – строить умозаключения, как это делает человек. Почему это важно? Потому что человек интерпретирует ситуации совершенно иначе, с учётом намного большего количества факторов.
Простой пример. Дорогу перед нами пересекает небольшого размера предмет. Если это гонимый ветром кусок бумаги или пенопласта – мы спокойно продолжаем движение. Если это на дорогу выскочила собачка … ну, по ситуации. Собачку жалко, но иногда нужно избежать более серьёзного ДТП. А если на дорогу выкатывается мяч – мы тормозим, так как знаем, что за ним могут выбежать дети. Для компьютера различить эти ситуации и эти объекты не так просто. А резко тормозить перед каждой бумажкой на дороге – тоже не выход.
В районе, где я сейчас живу, дома в основном частные. С заборами. В заборах есть ворота, и иногда они представляют собою «отъезжающую» секцию из такого же профнастила, из какого сделан сам забор. Или другие подобные варианты. Человек такие ворота опознает, и перед ними не припаркуется. Как их опознает компьютер?
Готовящегося выбежать на дорогу пешехода человек опознает по мельчайшим нюансам позы и движений. И примет меры раньше, чем тот реально побежит. И отличит ребёнка от взрослого небольшого роста. И спрогнозирует его поведение. И примет меры раньше, что во многих случаях выгоднее улучшения реакции компьютера.
Ещё один случай из практики, тоже давний. Едем с клиенткой в другой регион на следственные действия. Трасса, перед нами лёгкий грузовичок едет. Только собираюсь его обгонять, как замечаю, что у него как-то странно «восьмёркой» вращаются задние колёса. Только успеваю отказаться от обгона и обратить на это внимание пассажирки – как обе задние пары колёс у него просто отпадают! Грузовичок падает «на брюхо» с тучей пыли. А колёса, естественно, катятся вперёд. Смог ли бы компьютер визуально распознать такую проблему, если в него не заложили это программно, и принять соответствующие меры? Едва ли. А прописать в программе ВСЕ возможные подобные ситуации нереально.
Да, кстати. Хорошо, когда автопилот позволяет удерживать машину в полосе. В принципе, его можно научить это делать даже при отсутствии разметки, но только при условии, что чётко определяются границы проезжей части. А если их невозможно чётко определить, например, из-за снега..?
Да и вообще, далеко не везде идеальные дорожные условия…
Достаточно ли у датчиков автопилота разрешающей способности, чтобы распознать оборванные провода на пути?
В условиях реального движения за рулём надо думать. Компьютер может облегчить исполнение решений и реакцию в аварийной ситуации. Но думать за нас он неспособен. А ситуаций, в которых это необходимо, на дороге тысячи.
Мало того. Водителю иногда приходится выбирать. Не только «сбить пешехода-нарушителя или врезаться в столб»; в случае применения автопилота находящиеся в автомобиле будут зависеть от личных представлений программиста о критерии такого выбора. Такой подход к обеспечению безопасности клиента (пользователя автомобиля) уже не совсем приемлем как этически, так и коммерчески… Но есть и другие ситуации. Когда приходится выбирать: «встречная фура, дерево или забор». Как научить компьютер не только распознать каждый из видов препятствий, но и его конкретные характеристики с точки зрения ущерба при столкновении с ним? В каждом конкретном случае.
Таких и подобных примеров каждый достаточно опытный водитель приведёт сотни. В комментариях каждый может написать, какие нестандартные ситуации были на дороге у него, в которых никакой компьютер бы не помог. (А сторонники автопилотов могли бы попытаться доказать, что помог бы…)
Ограничения – не в вычислительной мощности (она-то может увеличиваться), а в самом принципе анализа ситуации компьютером, в том, что его не заставишь принимать нетрадиционные решения в нестандартных ситуациях. И интуиции, которая человеку позволяет во многих случаях принять меры заранее, до возникновения опасной ситуации, ему не сообщишь. А когда опасная ситуация возникла, даже компьютерной реакции не всегда хватит.
Кстати, ещё один аспект, который совершенно не учитывают, – криминальный. Если выскочивший перед машиной человек самим фактом своего появления может её остановить без возможности дальнейшего движения, пока он не освободит дорогу, – для разного рода грабителей и прочих криминальных элементов это невероятно упрощает нападение! А искоренить преступность пока нигде не удалось…
В конце концов, полностью человека не вытеснили даже в авиации, где большая часть полёта проходит на автопилоте. И где есть диспетчерская служба. А задача предотвращения столкновения состоит только с такими же самолётами, с такими же системами предотвращения столкновения, и к тому же при наличии контроля диспетчеров. В небе нет пешеходов… А потому нет субъектов с полностью непредсказуемым поведением и без возможности оснастить их системами контроля и связи с другими участниками движения (то же самое касается велосипедистов) в какую-то единую информационную систему, которую прогнозируют разработчики беспилотников. А задача автоматического предотвращения столкновения с птицами (даже крупными) не только не решена, но, кажется, даже не ставилась… Плюс движение на земле намного хаотичнее. И, как ни странно, вариантов действий больше. Как минимум возможность перехвата управления в случае выхода компьютера из строя или возникновения ситуации, не предусмотренной программой, необходима. «Полный автопилот», в лучшем случае, для ограниченных маршрутов со специфическими условиями.
Теоретически, с точки зрения безопасности, сочетание думающего и анализирующего обстановку с разных точек зрения человека и реагирующего в экстренных ситуациях компьютера, наверное, оптимально. Хотя лично меня, как водителя, даже такой вариант не радует. Кроме того, проблема в его реализации.
Немаловажный момент и на грани психологии и философии. Насколько в принципе человек готов полностью передать компьютеру принятие решений, в том числе в вопросах, касающихся выживания? Во-первых, нужно стопроцентное доверие не только технологиям как таковым, но и тем людям, которые их создают. Вера в стопроцентную гарантию от сбоев системы. Вера в то, что среди тех, кто систему создаёт, не окажется не только террориста, но и того, кто заложит в неё алгоритм «пожертвовать жизнью пассажира ради безопасности пешехода»… Ну, и полное отсутствие контроля за процессом. Это не говоря уже о тех, для кого вождение – удовольствие само по себе. А на них работает значительная часть мирового автопрома. Принудить можно только в условиях жесточайшей диктатуры. Демократические правительства или хотя бы делающие вид – вряд ли на такое пойдут… Оппоненты подадут как серьёзнейшее наступление на свободу (и будут правы). А каждое ДТП, где человек мог бы что-то сделать (практически или теоретически), будет вызывать скандалы.
Да, кстати, немаловажный момент. Ряд государств, охваченных приступами «зелёной» идеологической болезни, ставят цель полностью перейти на электромобили. Некоторые даже ставят конкретные сроки. Другой вопрос – получится ли у них это; Голландия срок уже перенесла на десять лет. Откровенно говоря – сомневаюсь. Тем более, что победа Трампа может быть первым симптомом выздоровления от этой идеологической заразы.
А вот цели полностью перейти на беспилотники не ставит никто. По крайней мере, на уровне конкретных планов и сроков. Пока это инициатива некоторых разработчиков, и то не выглядящая абсолютными планами. Но не на уровне государств… А это тоже о многом говорит.
Кстати, правовые проблемы, в частности, проблему ответственности, мы сейчас вообще не обсуждаем. Это особая тема.