Śmiertelny wypadek podczas testów samochodu autonomicznego na nowo rozbudził dyskusję wokół tej technologii. Czy sprzęt stworzony przez omylnego człowieka może być nieomylny? Na ile to tragiczne zdarzenie może zatrzymać rozwój w kierunku bezzałogowych pojazdów? I jak te auta poradziłyby sobie na polskich dziurawych drogach?

Między innymi te pytania zadaliśmy ekspertowi ds. sztucznej inteligencji firmy DLabs doktorowi Krzysztofowi Rykaczewskiemu.

Wiktor Miliszewski: Od nowych technologii wymagamy nieomylności i zapewnienia nam bezpieczeństwa.Tymczasem dochodzi do tak tragicznego wypadku.

Krzysztof Rykaczewski: Z tego, co czytałem, mogło na to wpłynąć wiele czynników. Kobieta weszła na środek czteropasmowej jezdni, która była kompletnie zaciemniona. Nie szła po przejściu dla pieszych. Generalnie samochody autonomiczne powinny radzić sobie w takich sytuacjach. W tym przypadku było na tyle ciemno, że czujniki tego samochodu nie zareagowały albo z jakiegoś innego powodu zawiodła technologia.

Czyli to wina „maszyny” czy człowieka?

Wina była po obu stronach niestety. Nie wiem, jak jest skonstruowany ten konkretny system pojazdu, ale widocznie inżynierowie czegoś nie zauważyli, mogli nie rozpatrzyć dodatkowego czynnika lub sensory nie były wystarczająco wrażliwe. Z drugiej strony ta kobieta przechodziła na środku jezdni, na której nie było świateł bocznych – jest udostępniony filmik tuż przed zdarzeniem i widać zarys jej postaci na pół sekundy przed uderzeniem. Całą sylwetkę widać przez ułamek sekundy. Z tego, co czytałem, policja wypowiada się w ten sposób, że, niezależnie od sytuacji, nikt by nie uniknął tragedii w tym miejscu, ale cały czas jest prowadzone śledztwo i dlatego nie ferujmy wyroków. Wiem, że sprawę bada Krajowa Rada Bezpieczeństwa ds. Transportu. Generalnie zdarzenie było trudne do uniknięcia.

Ta tragedia dość mocno poruszyła opinię publiczną. Niektórzy twierdzą, że być może nie powinniśmy tak szybko dążyć do wprowadzania tak zaawansowanych technologii. Przyszłość autonomicznych samochodów jest zagrożona?

To może spowodować jakieś opóźnienia, ale generalnie wydaje mi się, że ta technologia i ta dziedzina będą się cały czas rozwijać. Jak wchodziły tradycyjne samochody, to też zdarzały się wypadki, jednak technologia szła dalej. Dlatego myślę, że ludzie, którzy się tym zajmują, zatrzymają się teraz i zaczną się zastanawiać, jakie były przyczyny, dlaczego do takiego zdarzenia doszło, wyciągną konsekwencje i za jakiś czas ruszą dalej z jakimiś badaniami.

Jak ustawić granicę bezpieczeństwa, dzięki której będziemy mogli powiedzieć: „tak, teraz jest dobry moment, niech autonomiczne samochody masowo wyjadą na ulice, nic złego się nie stanie”?

Ja myślę, że statystyki już są świetne, ale są trzymane pod dywanem, bo nie warto klaskać, póki nie ma się zupełnej pewności. Tym bardziej, że można stracić wizerunkowo. Według mnie statystyki udowadniają, że autonomiczne samochody są bezpieczne, bo np. auta Ubera bardzo rzadko potrzebowały pomocy kierowcy, który nimi jeździł. Jeździły średnio po 10 tys. km bez dotknięcia kierownicy przez człowieka i czytałem, że za kilka tygodni miało wejść rozporządzenie w kongresie USA, dotyczące samochodów autonomicznych, na zasadzie jakiegoś przyzwolenia. Prawdopodobnie teraz ten moment się opóźni lub pojawią się dodatkowe obostrzenia.

Uber udostępnił nagranie z momentu tragicznego wypadku:

Czyli nowa technologia zapewni nam większe bezpieczeństwo?

Z punktu widzenia dzisiejszej technologii wydaje mi się, że te samochody są dużo bezpieczniejsze niż prowadzone przez kierowcę. Człowiek koncentruje się na jezdni i ewentualnie czynnikach, które są w jego polu widzenia, a taki samochód jest wyposażony w całą masę sensorów i może widzieć, że coś zbliża się z boku lub z tyłu w sposób niekontrolowany, dzięki czemu może zapobiec większemu wypadkowi.

I maszyna nie odbierze telefonu, który w każdej chwili może odwrócić uwagę kierowcy.

Tak, ale to tylko jeden przykład wielu czynników wpływających na wzrost bezpieczeństwa po wprowadzeniu nowych technologii.

Więc głośno potwierdzamy: człowiek jest znacznie bardziej omylny niż maszyna?

Można dywagować, co to znaczy „omylność”. Bo jak my dziś sprawdzamy dokładność takich maszyn? Jeśli mamy sieci neuronowe, które rozpoznają cyferki czy literki, to sprawdzamy ile nam, jako ludziom, udało się rozpoznać, a ile takiej maszynie. Naprawdę są takie przypadki, że jako człowiek miałem wątpliwości co do wyboru. Maszyna podejmowała decyzję znacznie szybciej i po dłuższym czasie uznawałem, że racja była po jej stronie. Z tego punktu widzenia maszyny mogą mieć trochę większą „wyobraźnię”, mogą korzystać z większych zasobów danych, ale też mogą ekstrapolować lepsze rozwiązania, na podstawie danych, które posiadają.

Życie jest jednak znacznie szersze niż tylko kwestia bezpieczeństwa. Wciąż nie wiadomo jak podchodzić do działania samochodów autonomicznych z punktu widzenia prawa. Bo kto miałby być odpowiedzialny za tragedię spowodowaną przez takie auto?

Ten tragiczny wypadek będzie w pewien sposób casusem w prawie i na pewno sędzia, który będzie wydawał wyrok w tej sprawie, długo się nad nim zastanowi. Z tego, co wiem, jeśli chodzi o winę Ubera, prawdopodobnie będzie jakaś kara, bo oni nie dopatrzyli jakiejś funkcjonalności. Tym bardziej, że widzenie w ciemności to nie jest problem dla dzisiejszych czujników, więc prawdopodobni poniosą część winy.

Samochody autonomiczne to technologia wciąż kojarzona z Zachodem. Czy w Polsce też możemy ich wypatrywać?

Nie wiem czy mamy odpowiednią infrastrukturę. W większości te samochody są elektryczne, a my nie mamy dużej liczby stacji ładowania. Co prawda są też hybrydowe samochody, które też są autonomiczne, ale, z tego co wiem nikt ich nie testował na polskich drogach, które czasami są słabej jakości. W Polsce w tym momencie potrzeba dużej liczby ładowarek, która nie jest jeszcze zagwarantowana.

„Polskie drogi, które czasami są słabej jakości”. O dziurach w naszych jezdniach powstają memy, problem jest duży. Czujniki i wszystkie inne technologie autonomicznych pojazdów mogą poradzić sobie z takimi warunkami?

Maszyny przygotowuje się na zdarzenia związane z kiepskimi drogami. Musimy na to spojrzeć zupełnie inaczej. Te maszyny uczą się wspólnie. Nie na poszczególnych przypadkach, jak ludzie. Dane, które są zebrane z jednego pojazdu, są przechowywane w centralnym systemie, który je przetwarza i rozdysponowuje wiedzę na całą flotę, która dzięki temu jeździ bezpieczniej. W ten sposób pojazdy uczą się kolektywnie, a przez to mogą zdobywać więcej danych i przygotować się na przeróżne sytuacje, których, jako poszczególne samochody, mogły jeszcze nie spotkać.

Wiktor Miliszewski/mk