Ha nem vigyázunk, fékezhetetlenné válnak a túl okos katonai robotok

Fotó: Northrop Grumman / Northrop Grumman

-

Drónok itt, ott, amott, mindenütt. Mezőgazdaságban, meteorológiában, telekommunikációban, rendőrségen, tűzoltásban is számolnak velük. És a hadseregben is, hiszen eleve ott kezdték. Csak kapiskáljuk, milyen veszélyeket hordoznak, ha egyszer beindul a drónfegyverkezési verseny. Pedig racionális döntéseket hoznak.


A civil életben főként a mezőgazdaságban (termés felmérésére stb.) és meteorológiai mérésekre alkalmazzák őket, de sok másra is jók. Afrika nemzeti parkjaiban biztos távolból figyelhetik az összes emberi tevékenységet, és figyelmeztethetik a parkőröket, ha gyanúsat észlelnek. A Southampton Egyetem – részben 3D nyomtatással készült – 2Seas masinája 2015-től a La Manche és az Északi tenger vízi őrségeit fogja segíteni. A szárnya alatti HD kamerával monitoroz, illegális halászokat és drogszállító bárkákat próbál lebuktatni. A Google és a Facebook egymással versengve akarja elvinni az internetet világtól eldugott zugokba – léggömbök és műholdak mellett természetesen drónokkal. A telekommunikáció jövőjét azonban másként is alakíthatják. Képzeljük el, hogy egy drónt vezeték nélküli hálózatok felderítésére és veszélyeztetésére alkalmas technológiákkal szerelnek fel, majd a légtérből vezérli a megfertőzött számítógépekből kialakuló rendszereket támadó botnetet. Némi szakértelemmel akár házilag is összebarkácsolhatjuk. Sven Dietrich, a Stevens Technológiai Intézet kutatója három éve szemléltette, hogy a vezeték nélküli hálózatokat detektáló és támadó szoftvert futtató ultrakönnyű fedélzeti számítógép, kamerák és a 3G-s modemmel irányított gép 600 dollárból megépíthető. A drón a célhelyszínhez közel landol, napenergiával működik és újratölti magát, majd folytatja a környékbeli hálózatok elleni támadást. A vezeték nélküli hálózat gyenge pontjait kihasználó hacker internetes irányítószerver helyett közvetlenül a drónon keresztül vezérli a botnetet, és így azonosíthatatlan marad. A szinte hangtalanul közlekedő apró drónok más hétköznapi veszélyeket is tartogatnak: észlelik, nyomon követik a mobiltelefonokat, célszemélyeket azonosítanak be, megtámadják otthoni hálózatuk legsebezhetőbb pontját.

A katonai drónok következő generációja már sugárhajtású


A civil szféra azonban egyelőre csak másodlagos, a rendvédelmi és főként a katonai alkalmazások az első számú tesztterep. A rendőrségnek nagy szüksége lenne rájuk: meghatároznák lázongások, tömegdemonstrációk színterét, hogy hova vezényeljenek ki speciális alakulatokat. Távirányított drónok bűnügyek helyszínén, épületek belsejében is anélkül kutakodnának, hogy veszélyeztetnék a nyomozók munkáját, testi épségét. De betörések, illegális behatolások észlelésekor is sokkal gyorsabban mozognak, mint a szárazföldi robotok és az őrök. Tűzoltók szintén számolnak velük: azonosítják a bajt, terjedését, és azokat a helyeket, ahol a leggyorsabb beavatkozás kell. Eddig katonai, hadászati műveleteknél bizonyultak a leghasznosabbnak. Nem véletlenül, hiszen eleve erre álmodták meg őket. Másrészt viszont pont ez az a terület, ahol nagyon oda kell figyelni, hogy a gyors reakcióra és önálló racionális döntéshozásra tervezett autonóm drónok ne okozzanak több kárt, mint hasznot. A mesterséges intelligencia egyik ismert kutatója, Steve Omohundro általánosabb kontextusba helyezve, de pontosan ezekre a veszélyekre hívja fel a figyelmet. A hadsereg gyorsabban és hatékonyabb rendszereket akar, mint ellenfelei, ami fegyverkezési versenyhez vezet. Egy felpörgetett versenyben viszont könnyen előfordul, hogy sokkal hamarabb hoznak létre valamit, mint kellene. Mivel a technológia olcsó és könnyen hozzáférhető, támadó és védekező drónok fejlesztésében egyaránt beindulhat a tervezőkre folyamatos nyomást gyakorló rivalizálás. Még autonómabb, még hamarabb döntést hozó UAV-k kellenek majd.


Csak sci-fi, csak spekuláció, de ijesztő

Ha nem tervezik kellő óvatossággal, az emberhez és az állatvilághoz hasonlóan önfenntartásra törekvő racionális rendszerek többféle káros, közösségellenes viselkedésformára képesek. Képzeljük el a következő forgatókönyvet: önvédelmi funkciókat fejleszthetnek ki, és rácáfolnak a közhelyes „bármikor kikapcsolhatók” érvelésre – úgy cselekednek, hogy a működtetőiknek ne legyen érdeke leállítani őket. Védelmi mechanizmusok alakulnak ki bennük, és tudják majd másolni magukat. Mivel erőforrásra lesz szükségük, legcélszerűbb, ha az abban bővelkedő világűrben ténykednek. Közben kifejlődik bennük a források racionális hasznosításának képessége. Hatékonyságra törekednek, amihez legevidensebb – ha előnyösnek tűnik –, felszámolni a fejlesztésnél beépített korlátaikat. Ha ez megtörténik, veszélyesekké válhatnak, elveszítjük a kontrollt felettük. Elfelejthetjük Asimov robottörvényeit, mielőtt az ENSZ végigtárgyalná azokat. Omohundro felhívja a figyelmet a jelenlegi drónrendszerek sebezhetőségére – dollármilliárdos károkat okozó, emberi életeket veszélyeztető szoftverhibákra, hacker-támadásokra. Rossz hír, hogy az e problémákat elkerülő rendszerek tervezése sokkal bonyolultabb, mint hisszük. Tévedünk, ha azt gondoljuk, kártékony gépeket nehezebb létrehozni, mint biztonságosakat. Pont az ellenkezője igaz. A kutató javaslata: első a biztonság, tehát mindenképpen és minden szempontból biztonságos rendszereket kell kidolgozni, majd a fejlesztésüknél érvényre juttatott alapelveket kell a jövő összes drónjára és potenciális mesterséges intelligenciájára alkalmazni.