Критика чистої футурології – таку назву можна було б дати цьому тексту. Тут йтиметься про прогнози щодо того, що безпілотні автомобілі повністю витіснять звичайні, і що в результаті цього зникне сам інститут приватного автомобіля, оскільки його замінить каршерінг.
Тут варто зазначити, що футурологія – річ у принципі не завжди вдячна. Достатньо подивитися, як наше сьогодення уявляли 50-100 років тому. Цьому є багато причин. І прориви виникають у несподіваних для футурологів (та й для всіх інших) сферах науки і техніки. І самі футурологи зважають на розвиток техніки (як вони уявляють), але не беруть до уваги ті потреби, які ця техніка може і має задовольняти, бо тут теж попит народжує пропозицію.
У цих конкретних прогнозах сумніватися змушує низка причин. Серед них такі, що мають належність і до техніки, і до людського суспільства, людської психології і людських потреб.
Почнемо з перших. Можливості створення автопілота, який повністю замінив би водія, обмежені принципом роботи комп’ютера: що запрограмуєш, те й отримаєш…
Чого можна навчити робити його нарівні з людиною або навіть краще? Уникати зіткнення, як кажуть наші експерти-автотехніки, з моменту виникнення небезпеки. Це так, це реально. І в деяких випадках реакція комп’ютера буде кращою за людську. Як помічник для водія це може бути корисним, залежно від того, як налаштувати систему.
Чого комп’ютер навчити не можна? Передбачати ситуації, які не виникали у нього і у програміста.
У мене у 2009 році взимку дорогою з Хмельницького була “цікава” ситуація. Дорога – по одній смузі в кожну сторону, уторований сніг, з боків снігові відвали. Їду собі спокійно 60-70 на повному приводі. Під’їжджаю до доволі плавного лівого повороту. І тут з-за повороту виїжджає фура, і її починає виносити на мою смугу. Десь 2/3 смуги вона займає. Добре, що встиг прорахувати ситуацію: у мене позашляховик, шини – високопрофільні і вузькі, дорожній просвіт великий, працює повний привід. Йду в сніг, пробиваючи колесами цю “стіну” а вона там доволі висока. Фура проскакує повз… Якби був на легковику – ця стіна спресованого снігу відкинула б мене назад під фуру.
Який комп’ютер (навіть якщо припустити, що він керуватиме автомобілем з аналогічними характеристиками) зможе в такій ситуації прорахувати всі ці чинники? Жоден. Для нього стіна снігу буде просто перешкодою.
Таких ситуацій безліч. Все не пропишеш. Поки що жоден із проектів безпілотників не передбачає ні камер, ні «мізків», які змогли б розпізнавати образи на рівні людини. А тим паче – міркувати так, як це робить людина. Чому це важливо? Тому що людина інтерпретує ситуацію абсолютно інакше, з урахуванням набагато більшої кількості чинників.
Простий приклад. Дорогу перед нами перетинає невеликого розміру предмет. Якщо це гнаний вітром шматок паперу або пінопласту – ми спокійно продовжуємо рух. Якщо на дорогу вискочив песик… ну, відповідно до ситуації. Собачку шкода, але іноді слід уникнути серйознішої ДТП. А якщо на дорогу викотився м’яч – ми гальмуємо, бо знаємо, що за ним можуть вибігти діти. Для комп’ютера розрізнити ці ситуації і ці об’єкти не так просто. А різко гальмувати перед кожним папірцем на дорозі – теж не вихід.
У районі, де я зараз живу, будинки переважно приватні. З парканами. В парканах ворота часто-густо з такого самого матеріалу, з якого зроблено і сам паркан. Або інші подібні варіанти. Людина такі ворота впізнає, і перед ними не припаркується. А як це має зрозуміти комп’ютер?
Пішохода, що хоче вибігти на дорогу, людина впізнає за найдрібнішими нюансами положення тіла та рухами. І вживе заходів раніше, ніж та реально побіжить. І зможе відрізнити дитину від невисокого дорослого. І спрогнозує поведінку. І вживе заходів раніше, що в здебільшого вигідніше ніж покращення реакції комп’ютера.
Ще один випадок з практики, теж давній. Їдемо з клієнткою в інший регіон на слідчі дії. Траса, а перед нами невеличка вантажівка їде. Тільки-но зібрався її обганяти, як помічаю, що у неї якось дивно «вісімкою» крутяться задні колеса. Тільки встигаю відмовитися від обгону і звернути на це увагу пасажирки – як обидві пари задніх коліс у вантажівки просто відпадають! Вона падає «на черево» з хмарою пилу. А колеса, звісно, котяться вперед. Чи зміг би комп’ютер візуально розпізнати таку проблему, якби в нього не заклали це програмно, і вжити відповідних заходів? Навряд чи. А прописати в програмі ВСІ можливі подібні ситуації нереально.
І до речі. Чудово, що автопілот дає змогу утримувати машину в смузі. Загалом його можна навчити це робити навіть за відсутності розмітки, але тільки за умови, що чітко визначено межі проїжджої частини. А якщо їх неможливо чітко визначити, наприклад через сніг?
Та й узагалі, геть не скрізь ідеальні дорожні умови…
А чи зможуть датчики автопілота розпізнати обірвані дроти на шляху?
В умовах реального руху за кермом треба думати. Комп’ютер може полегшити виконання рішень та реакцію в аварійній ситуації. Але думати за нас він не здатний. А ситуацій, в яких це необхідно, на дорозі тисячі.
Мало того. Водієві іноді доводиться обирати. Не тільки «збити пішохода-порушника або врізатися в стовп»; у разі застосування автопілота люди в автомобілі залежатимуть від особистих уявлень програміста про критерії такого вибору. Такий підхід до гарантування безпеки клієнта (користувача автомобіля) вже не зовсім прийнятний як етично, так і комерційно… Але є й інші ситуації. Коли доводиться обирати: «зустрічна фура, дерево або паркан». Як навчити комп’ютер не тільки розпізнати кожен із видів перешкод, а й також його конкретні характеристики з точки зору шкоди від зіткнення з ним? У кожному конкретному випадку.
Таких і подібних прикладів досвідчений водій наведе сотні. В коментарях кожен може написати, які нестандартні ситуації були в нього на дорозі, коли жоден комп’ютер не допоміг би. (А прихильники автопілотів могли б спробувати довести, що допоміг би…)
Обмеження – не в обчислювальній потужності (вона може збільшуватися), а в самому принципі аналізу ситуації комп’ютером, в тому, що його не змусиш приймати нетрадиційні рішення в нестандартних ситуаціях. І інтуїції, яка допомагає людині в багатьох випадках вжити заходів заздалегідь, до виникнення небезпечної ситуації, його не навчиш. А коли небезпечна ситуація виникла, навіть комп’ютерної реакції не завжди вистачить.
До речі, ще один аспект, який абсолютно не враховують, – кримінальний. Якщо людина, що вискочила перед авто, самим фактом своєї появи може його зупинити і залишити без можливості подальшого руху, доки вона не звільнить дорогу… Для грабіжників та інших кримінальних елементів це неймовірно спрощує напад! А викорінити злочинність поки що ніде не вдалося.
Врешті-решт, повністю людину не витіснили навіть в авіації, де більша частина польоту проходить на автопілоті. І де є диспетчерська служба. А уникати зіткнення необхідно лише з такими самими літаками, з такими самими системами запобігання зіткненню, і до того ж за наявності контролю диспетчерів. У небі немає пішоходів… А тому немає суб’єктів з повністю непередбачуваною поведінкою і без можливості оснастити їх системами контролю і зв’язку з іншими учасниками руху (те саме стосується і велосипедистів) в якусь єдину інформаційну систему, яку прогнозують розробники безпілотників. А завдання автоматично уникати зіткнення з птахами (навіть великими) не тільки не вирішене, а й, здається, навіть не ставилося… Плюс рух на землі набагато хаотичніший. І, хоч це може й дивно, варіантів дій більше. Як мінімум необхідно мати можливість перехоплення керування у разі виходу комп’ютера з ладу або виникнення ситуації, не передбаченої програмою. «Повний автопілот», в кращому разі, для обмежених маршрутів зі специфічними умовами.
Теоретично, з точки зору безпеки, поєднання людини, що думає й аналізує і комп’ютера, що реагує в екстрених ситуаціях, мабуть, є оптимальним. Хоча особисто мене, як водія, навіть такий варіант не радує. Крім того, проблема в його реалізації.
Важливий момент і на межі психології та філософії. Чи готова людина повністю передати комп’ютеру прийняття рішень, зокрема в питаннях, які стосуються виживання? По-перше, потрібно мати стовідсоткову довіру не тільки до технологій як таких, але й до людей, які їх створюють. Віра в гарантію системи від збоїв. Віра в те, що серед тих, хто створює систему, не виявиться не лише терориста, а й того, хто закладе в неї алгоритм «пожертвувати життям пасажира заради безпеки пішохода»… Ну, і цілковита відсутність контролю за процесом. Це не кажучи вже про тих, для кого водіння – задоволення саме по собі. А на них працює значна частина світового автопрому. Примусити можна тільки в умовах жорстокої диктатури. Демократичні уряди навряд чи на таке підуть… Опоненти подадуть це як серйозний наступ на свободу (і будуть праві). А кожна ДТП, де людина могла б щось зробити (практично або теоретично), викликатиме скандали.
І ще один важливий момент. Деякі держави, охоплені нападами «зеленої» ідеологічної хвороби, ставлять за мету повністю перейти на електромобілі. Деякі навіть ставлять конкретні терміни. Інше питання – чи вийде у них це. Голландія подовжила цей термін на десять років. Відверто кажучи, сумніваюся. Тим паче, що перемога Трампа може бути першим симптомом одужання від цієї ідеологічної зарази.
А от мети повністю перейти на безпілотники не ставить ніхто. Принаймні, на рівні конкретних планів і термінів. Поки що це ініціатива деяких розробників, і то не здається абсолютними планами. Але не на рівні держав… А це теж багато про що свідчить.
До речі, правові проблеми, зокрема, проблему відповідальності, ми зараз взагалі не обговорюємо. Це особлива тема.