Skoro kontrola jest w rękach oprogramowania, a
nie policji, co jeśli to oprogramowanie odwróci się
przeciwko jego twórcom, jeśli stanie się na tyle
autonomiczne, że zacznie samo obarczać kierowców
mandatami, pomimo braku jakiegokolwiek
nacisku ze strony władz lub prawa? Tak jak HAL
9000, tylko, że na naszej własnej autostradzie w
2016. Jest możliwe, że to wszystko już się dzieje,
i że konsekwencje okażą się destrukcyjne dla
kierowców i firm transportowych.
Podczas ostatniej kontroli w Champigneulles we
Francji w marcu 2016 władze nałożyły mandat
całkowity w wysokości 33 675,00 €, zdaliśmy
sobie sprawę, że oprogramowanie analizujące
tachograf, używane przez francuskie władze
(OCTET) nie interpretowało momentów niedospozycyjności
sprzętu jako przerw w ciągłym czasie
jazdy. Założyliśmy, że taka interpretacja wynika
z aktualizacji oprogramowania, jednak żadne
inne państwa europejskie nie przyjęły tej argumentacji.
Te same władze francuskie nałożyły
ponadto mandaty o łącznej kwocie 200 000€,
kierując się tymi samymi motywami.
W wyniku przemysłowego nacisku, w kwietniu
2016 roku Europejska Komisja, poprzez Dyrekcje
Generalne zwołała zgromadzenie wszystkich
powiązanych władz, by przedyskutować tę kwestię.
Podczas tego spotkania, władze Francuskie
oznajmiły, iż “Francja nie zmieniła swojej interpretacji
ciągłości jazdy”, co więcej, przypisała
wspomniane sankcje pojedynczym policjantom,
działającym na własne konto.
Jeśli to prawda, a nie mamy co do tego wątpliwości,
oznacza to, że OCTET przejął kontrolę nad
systemem. To znaczy, że wspomniane mandaty
nie są nakładane zgodnie z prawem lub interpretacją
Francji, ale, że OCTET stając się autonomiczny
zaczął sam nakładać mandaty i „zabijać”.
Wiemy na pewno, że OCTET interpretuje pliki
cyfrowe w ten właśnie sposób. Mamy na to rozległe
dowody, dostępne dla wszystkich władz, które
chciałyby się z nimi zapoznać. Jednocześnie, to
samo może się dziać prawdopodobnie we wszystkich
krajach europejskich kontrolujących przepis
561/06, z tym, że mniej oficjalnie.
To, czego Stanley Kubrick, Ridley Scott czy Alex
Garland nam nie powiedzieli, to fakt iż AI może
być kontrolowany. To prawda. Jest to możliwe
dzięki teorii zwanej “formalną weryfikacją oprogramowania”,
która precyzyjnie rozwiązuje ten
problem I jest stosowana na szeroką skalę w lotnictwie
oraz w sektorze kosmicznym przemysłu.
Teoretycznie byłoby możliwe kontrolowanie oprogramowania
sztucznej inteligencji poprzez tę teorię,
jednak z punktu widzenia matematycznego
jest to wciąż zbyt skomplikowane.
W każdym razie, jest już oficjalnie zweryfikowany
model matematyczny dla oprogramowania do
analizy tachografów, odnoszący się do rozporządzeń
561/06 i 165/2014, który uniemożliwiłby
jakiemukolwiek programowi lub programiście
tworzenie lub interpretowanie prawa hna własny
sposób. Komisja Europejska jest tego świadoma,
jednak przyjęcie go oznaczałoby małą rewolucję
technologiczną.
Przyjrzyjmy się praktycznemu przykładowi.
Weźmy na przyład twoją ciężarówkę, nazwijmy ją
„Discovery 1”. Niech kieruje się do fabryki zwanej
„Jupiter”. Ciężarówka jest wyposażona w tachograf
HALL a wersja oprogramowania to 9000.
Podczas podróży techograf zaczyna komunikować
kierowcy, że zbliża się do przekroczenia
dopuszczalnego czasu ciągłej jazdy, więc musi
się zatrzymać. Wie, że to nieprawda, ale czy zdecyduje
się zingorować komunikat HAL’a 9000 I
kontynuować swoją podróż do “Jupitera”?
Gdy następnie HAL 9000 zacznie mówić, że kierowca
nie załadował swojej karty kierowcy przez ostatnich
30 dni I powinien to zrobić natychmiast, co zrobi
kierowca z wczytanym dzień wcześniej plikiem
cyfrowym?
kiedy HAL wykaże, że pojazd przebył
w przyszłości 16.777.777 km w dniu 07/02/2016 o
godzinie 06:28.15, jak się to skończy?
Zobaczymy, co zdecyduje Komisja Europejska,
czy stanie po stronie swoich obywateli, czy też
maszyn.
Guillermo Errezil
Fizyk teoretyczny