Би купиле ли автомобил што ќе ве убие?

Замислете си автомобил кој се движи со 80 км/ч по пат во ненаселено место. Внатре патува девојче, само – бидејќи станува збор за 100% автономен самоуправувачки автомобил – еден од оние за кои големите производители тврдат дека за 4 години ќе влезат во производство.

Одеднаш, три други деца се појавуваат на патот сосема неочекувано и возилото треба да донесе одлука, базирана на тоа како е програмирано: да продолжи напред и да удри во децата или да заврти настрана и да се забие во ѕидот, заедно со малата патничка внатре.

Како е правилно да постапи еден паметен автомобил?

Најверојатно, следејќи ги подесувањата базирани на правилото за што е можно помал број жртви, автомобилот ќе го избере ѕидот, спасувајќи го животот на трите деца и жртвувајќи го девојчето внатре.

А сега замислете дека во возилото се вози вашето дете. Дали би купиле семеен автомобил кој ќе претпочита да го убие, за да спаси три други деца? Претпоставувате: повеќето од луѓето не би купиле автомобил кој е спремен да го жртвува животот на патниците во него, само затоа што во одредени ситуации ќе процени дека тоа е најдобрата можна опција.

Принципот на помалото зло не важи кога станува збор за нас самите или за нашите блиски

На тоа укажуваат и податоците од истражувањето спроведено од американското списание Science. Преку серија прашања, научниците го опипаа расположението на Американците околу дилемите кои ги поставуваат самоуправувачките автомобили. Првиот заклучок кој се наметнува според податоците во анкетата е парадоксален: анкетираните сметаат дека е логично самоуправувачките автомобили да се програмирани според универзалната логика и морал: подобро да убиеш еден човек – во случај патникот, отколку да прегазиш 10 други луѓе. А сепак, мнозинството вели дека не – не би купиле автомобил кој работи на таков алгоритам.

Токму во тоа се состои најголемата пародија околу интелигентните автомобили на иднината. Нивната перфектност ќе значи бескомпромисност и помал број жртви, но сопствениците на паметни автомобили тешко можат да се помират со фактот дека во повеќето случаи токму тие ќе бидат жртвите.

Овој парадокс, кој во моментов важи чисто теоретски, може да се покаже како главен мотив за намалување на масовното производство на паметни автомобили – и тоа во многу поголема мера отколку чисто техничките детали. А со секоја една година во која производството на самоуправувачки автомобили би опаднало – би опаднало и намалувањето на сообраќајните несреќи што се последица на човечка грешка – кои патем придонесуваат со 90% од сегашните инциденти, според статистиките. А ете, соочени со дилемата дека нашите автомобили можат да нé убијат ако на патот има повеќе луѓе отколку што се возат во автомобилот – ние преферираме нашите шоферски одлуки и грешки да ја полнат црната хроника, наместо ние да се најдеме во неа.

Според еден од авторите на студијата – Азим Шариф, специјалист по етика на Универзитетот во Орегон, ќе се наметне потреба од создавање на нови алгоритми за самоуправувачките автомобили, кои ќе се однесуваат на различни комплексни ситуации.

„Има ситуации кои нема како да се избегнат. Ќе има ситуации на патот, во кои општите правила ќе влегуваат во конфликт со конкретните случаи, а со тоа ќе се наметне создавање на алгоритми и за такви ситуации”.

Всушност, самоуправувачките автомобили ќе бидат во судир со класичната морална дилема, наречена „дилема на трамвајот”

Таа гласи: „Ако се возите во трамвај кој се движи по инерција (без кочници) и не може да запре, ќе го турнете ли најтешкиот патник од возот на шините, за со своето тело да го запре трамвајот? Со еден збор, убивајќи го, дали би го спасиле животот на останатите пет патници?

Обично околу 30% од луѓето одговораат дека би постапиле баш така.

Па, замислете колку комплексна станува ситуацијата, ако треба самоуправувачките автомобили да се програмираат на начин што ќе земе бесконечна низа од различни фактори во предвид, како на пример дали во автомобилот се вози бремена жена или тешко болен човек. А како треба да го решат проблемот автомобилите, ако треба да изберат дали да убијат дете или возрасен човек?

Пред автономните автомобили сé уште претстојат премногу морални дилеми, кои автомобилите ќе ги решат единствено на начинот на кој се програмирани – и тоа без никакво двоумење.

„Во дебатата за иднината на автономните автомобили не е многу јасно кој треба да ја преземе одговорноста“, коментира Рамон Лопез де Мантарас – директор на шпанскиот Институт за изучување на вештачка интелигенција. „Кој треба да одлучи како да постапуваат автомобилите: владите, производителите, потрошувачите?“.

Според истражувањето на списанието Science, луѓето не сакаат владите да го регулираат моралниот код на автономните автомобили. Големите производители на автоматизираниот транспорт (Uber, Google, Volvo, Ford), од друга страна, веќе се здружија за да го искористат можеби најголемиот лобистички притисок врз политичките одлуки кои претстојат во областа.

Лопез де Мантарас претпоставува дека е можно, додека да се појават првите апсолутно самоуправувачки автомобили, вештачката интелигенција веќе да е развиена до степен во кој ќе може да носи свои сопствени автономни морални одлуки.

„Но, тогаш ќе се појави нов проблем: автомобилите ќе излегуваат од фабриката исти, но секој од нив ќе може да се самообучува и да достигне некакво сопствено етичко ниво“, нагласува тој, додавајќи дека „во сите случаи, контролирањето на вештачката интелигенција треба да се одвива на апсолутно транспарентен начин”.

Сето ова не е многу охрабрувачко за корисниците кои и онака тешко ќе ги заборават скандалите на големите производители со прикривање на реалните податоци за штетните гасови во атмосферата. Луѓето уште потешко ќе поверуваат дека истите овие корпорации би имале „ангелски“ намери при програмирање на автономните автомобили.