I de senere år er vi gået fra at se droner som en simpel Højteknologisk legetøj til videooptagelse at gøre dem til et centralt værktøj inden for sikkerhed, overvågning og endda væbnede konflikter. Og som det ofte er tilfældet med enhver teknologi, der tager så hurtigt fart, udvikler sikkerheds- og beskyttelsesaspektet sig ikke altid i samme tempo.
I denne sammenhæng har en gruppe forskere fra University of California, Irvine, demonstreret noget, der lyder som en joke, men langt fra er det: Det er muligt at tiltrække og neutralisere visse autonome droner ved kun at bruge en paraply med et specifikt farvemønster.Ingen radiojammere, ingen fjernhacking, ingen sofistikerede våben. Bare en "mærkelig" paraply og lidt reverse engineering af, hvordan disse enheder opfatter verden.
Hvorfor autonome droner skaber stigende bekymring
Dronernes fremgang er på ingen måde begrænset til fritiden. Kina, Rusland, USA og andre lande De presser aggressivt på for udviklingen af ubemandede luftfartøjer udstyret med kunstig intelligens, der er i stand til at træffe beslutninger på egen hånd. Vi taler ikke længere kun om flyvende kameraer til influencere, men om autonome platforme med taktiske og overvågningsapplikationer.
Et meget tydeligt eksempel kan findes i krigen i Rusland og Ukrainehvor alle mulige slags droner er blevet indsat: kamikaze-enheder, sporingsenheder, systemer forbundet med fiberoptiske kabler for at forbedre datatransmissionen osv. Dertil kommer udviklinger, der grænser til science fiction, såsom russiske eksperimenter med påståede duer forvandlet til biodroner, som illustrerer, i hvilket omfang nogle aktører er villige til at udforske enhver teknologisk mulighed for at opnå fordele på slagmarken.
Problemet er, at den samme teknologi, når den overføres til den civile sektor, åbner døren for langt mere ubehagelige scenarier: vedvarende overvågning af mennesker, uautoriseret automatisk sporing, dataindsamling på følsomme steder eller blot indtrængen i privatlivets fred for enhver, der krydser veje med en af disse enheder på det forkerte tidspunkt.
Masseudbredelsen af droner med autonome sporingsfunktioner i opgaver som privat sikkerhed, grænseovervågningKontrol af menneskemængder eller patruljering af kritisk infrastruktur udvider deres operationelle muligheder ... men samtidig mangedobler det risikovektorene. Ikke kun fordi droner kan fungere forkert, men fordi de kan manipuleres, bedrages eller bruges mod dem, der betjener dem.
I denne situation bliver det tydeligt, at det ikke er nok at kryptere kommunikation eller beskytte radiobånd. Den virkelige kamp udkæmpes også på den fysiske bane, i hvordan syns- og AI-algoritmer fortolker, hvad de ser gennem dronens kamera, og hvordan de reagerer på visuelle mønstre, der er designet til at forvirre dem.
UC Irvine-forskning: en paraply mod kunstig intelligens
I stedet for at udvikle en ny offensiv drone, teamet af University of California, Irvine (UC Irvine) Han besluttede at gribe problemet an fra den anden side: hvordan han fysisk kunne beskytte sig selv mod AI-baserede autonome sporingssystemer. Hans mål var klart: at forbedre den såkaldte "fysiske cybersikkerhed" med hverdags- og billige genstande, uden at være afhængig af specialiseret hardware eller avanceret hackingviden.
Under deres undersøgelse analyserede eksperterne grundigt, hvordan de sporingsalgoritmer, der er indbygget i mange kommercielle droner, fungerer. Specifikt fokuserede de på de funktioner, der kommercielt er kendt som Active Track, Dynamic Track eller andre lignende systemersom gør det muligt for dronen automatisk at følge en person eller et objekt ved hjælp af computervision, uden at piloten manuelt skal justere banen hele tiden.
Efter adskillige eksperimenter opdagede de en overraskende simpel svaghed: visse dronemodeller, der præsterer Målsporing ved hjælp af neurale netværk og billedbevægelsesanalyse De kan forveksles, hvis de præsenteres med et meget specifikt visuelt mønster. Denne metode blev navngivet som Flytrap, "fluefælde", der henviser til den måde, den lokker dronen til en position, hvor den kan blive fanget eller skudt ned.
Det mest slående ved sagen er, at den praktiske implementering af FlyTrap blev udført ved hjælp af noget så almindeligt som en paraply. Ved at stemple det passende visuelle mønster på paraplyens overflade Og når du åbner den foran dronen, fortolker den kunstige sporings-AI en række ændringer i billedet, der får den til at tro, at målet bevæger sig væk, selvom personen, der holder det, holder det stille.
Resultaterne blev præsenteret på en international konference med speciale i computersikkerhed (NDSS), hvor det blev uddybet, at denne tilgang ikke blot er en kuriositet i et laboratorium. Test viste, at det fysiske angreb virker under forskellige forholdmed ændringer i belysning og vejr, hvilket bringer det faretruende tæt på et virkeligt brugsscenarie uden for et kontrolleret miljø.
Sådan fungerer FlyTrap-angrebet trin for trin (på et konceptuelt niveau)
For at forstå, hvorfor en paraply kan sætte en autonom drone i en vanskelig position, er vi nødt til at gennemgå, hvordan målsporingssystemer baseret på kunstig synDronen optager i bund og grund kontinuerligt billeder af sine omgivelser og forsøger ved hjælp af neurale netværk og bevægelsesanalysealgoritmer at lokalisere det motiv, den skal følge, inden for hver ramme.
Disse algoritmer fokuserer på mønstre af form, farve, kontrast og bevægelse at estimere, hvor motivet befinder sig i det aktuelle billede i forhold til det forrige. Ud fra disse oplysninger beregner de, om motivet nærmer sig, bevæger sig væk, bevæger sig til siden, gemmer sig bag en forhindring osv. Dronen justerer derefter sin hastighed og bane for at holde motivet inden for billedet i en afstand, der anses for "optimal".
FlyTrap-angrebet udnytter netop denne logik. Det grafiske mønster, der er designet til paraplyen, får den til at generere mønstre, når dronen bevæger sig bare en smule eller ændrer sin synsvinkel. tilsyneladende ændringer i målets skala og position hvilket algoritmen fortolker som en kontinuerlig bevægelse væk. AI'en mener, at motivet bevæger sig baglæns, når de i virkeligheden står stille.
Så hvad gør dronen? For at kompensere for denne formodede afstand, gradvist reducere afstandenForsøger at "komme tættere" på motivet for at opretholde kompositionen i henhold til sporingssystemets interne regler. Resultatet er, at flyet går ind i en stadig mere aggressiv indflyvningsspiral ... indtil det kommer faretruende tæt på paraplyen og den person, der bærer den.
Når dronen er meget tæt på, har angrebsoperatøren en meget fordelagtig margin: de kan at fange den med et net, at ramme den, at destabilisere den eller at få den til at støde sammen mod en nærliggende overflade. I modsætning til andre forsvarsmetoder, der kun har til formål at få dronen til at miste sit mål eller stoppe med at spore, giver FlyTrap dig mulighed for at bringe den lige i den ideelle position til fysisk neutralisering.
Berørte dronemodeller og problemets faktiske omfang
Forskerne fra UC Irvine stoppede ikke ved simuleringer; de testede deres teknik med rigtige kommercielle dronerBlandt de modeller, der er blevet evalueret med succes, er:
- DJI Mini 4 Pro
- DJI Neo
- Hover Air X1
Alle disse enheder har automatiske sporingsfunktioner baseret på computervision, der i teorien er designet til at muliggøre dynamiske optagelser uden at piloten behøver at bekymre sig om kameraet. Netop den evne til autonomt at følge brugeren Det er den, der vender sig imod ham, når et mønster som FlyTrap kommer i spil.
I testene blev dronerne tiltrukket nok til at gøre deres operation levedygtig. optagelse med netværksenheder eller dens kontrollerede påvirkningMed andre ord handlede det ikke bare om at forvirre algoritmen et øjeblik, men om at fremtvinge en vedvarende fysisk tilgang, der overlod enheden til angriberens nåde.
Forskerne, der var ansvarlige for undersøgelsen, handlede i overensstemmelse med bedste praksis inden for cybersikkerhedsmiljøet og De kommunikerede sårbarheden ansvarligt. til de involverede producenter, før alle detaljer offentliggøres. Dette åbner døren for virksomheder som DJI og andre berørte virksomheder til at gennemgå deres sporingsalgoritmer og implementere modforanstaltninger i fremtidige firmwareopdateringer eller hardwaregenerationer.
Ud over disse specifikke modeller har opdagelsen dog meget bredere implikationerEthvert UAS (ubemandet luftfartøjssystem), der er afhængig af neurale netværk til at spore mål ved hjælp af computervision, kan være modtageligt for variationer af den samme tilgang, hvis det ikke er specifikt trænet til at modstå disse typer af fjendtlige mønstre.
Et fysisk angreb, der ikke kræver radio, hacking eller interferens
En af nøglefunktionerne ved FlyTrap er, at den udelukkende fungerer i fysisk domæneDet kræver ikke at dronen forstyrres af kommunikationen, at dens dataforbindelse tilgås eller at traditionelle softwaresårbarheder udnyttes. Angrebet fungerer, fordi det manipulerer, hvad dronens kamera ser, og dermed hvad dens AI-algoritmer mener sker.
I praksis betyder det, at angriberen ikke behøver at udstede radiosignaler, WiFi, GPS eller lignendeDet kræver heller ingen form for forbindelse til dronen, adgangstilladelser eller legitimationsoplysninger. Det indebærer blot at vise dronen et fysisk objekt, der er designet til at udnytte dens kognitive blinde vinkler, noget der er meget sværere at spore og blokere med standardforsvar.
Denne tilgang passer ind i det, der kaldes fjendtlige angreb i den fysiske verdenDette er en stadig mere relevant forskningslinje. Ligesom briller, t-shirts eller klistermærker er blevet skabt, der kan narre ansigtsgenkendelsessystemer eller selvkørende biler, bruges her en paraply til at forstyrre en drones sporingsalgoritmer.
Desuden er omkostningerne latterligt lave sammenlignet med de ressourcer, der normalt er forbundet med elektronisk krigsførelse eller nedskydning af ubemandede fly. Der kræves ikke dyrt udstyr, specielle antenner eller ekspertviden om RF.Alt du behøver er en paraply med det rigtige design og nogle færdigheder til at placere dig selv på det rigtige sted, når dronen er i følgetilstand.
Denne asymmetri mellem prisen på en avanceret drone og omkostningerne ved at neutralisere den ved hjælp af et så almindeligt objekt har en direkte indflydelse på, hvordan vi bør tænke om kritisk infrastruktursikkerhed, politiindsættelser eller grænserEn ondsindet aktør kunne i teorien bringe overvågningsdroner tæt på begrænsede områder ved hjælp af netop disse typer teknikker og derefter deaktivere dem eller få dem til at styrte ned, hvor de vil.
Implikationer for sikkerhed, privatliv og masseudrulning af droner
Spredningen af ubemandede fly drevet af kunstig intelligens Dette udgør en enorm udfordring for den offentlige sikkerhed. Vi ser flere og flere projekter, der foreslår at bruge sværme af droner til at patruljere byer, overvåge grænser eller føre tilsyn med store begivenheder. Men UC Irvine-undersøgelsen viser, at hele denne implementering hviler på et ret skrøbeligt fundament uden at styrke perceptionsalgoritmerne.
På et operationelt niveau kan et FlyTrap-angreb bruges både offensivt og defensivt. På den ene side kan nogen neutralisere politi- eller grænseovervågningsdronerDette kompromitterer sikkerhedsstyrkernes responskapacitet i et specifikt område. På den anden side kunne en person, der chikaneres af en drone, eller et offer for spionage med en kommerciel enhed, bruge den samme mekanisme til at forsvare sig selv med en simpel modificeret paraply.
Der er også aspektet af beskyttelse af strategisk infrastruktur (kraftværker, transportfaciliteter, datacentre osv.). Hvis disse steder er afhængige af autonome droner som supplement til deres overvågningssystemer, åbner en sårbarhed som FlyTrap risikoen for, at en angriber kan omgå en del af detektionssystemet ved kun at bruge et fysisk objekt uden nogen elektronisk interaktion.
Undersøgelsen sender således et klart budskab: Dronesikkerhed kan ikke begrænses til det elektroniske eller netværkslagSikring af datalinks, kryptering af kommunikation og beskyttelse af software er nødvendigt, men utilstrækkeligt, hvis visionsalgoritmer så bliver narret af farvede mønstre trykt på en paraply. Modstandsdygtighed skal omfatte, hvordan AI fortolker det fysiske miljø og dets robusthed over for bevidst manipulation.
Efterhånden som brugen af autonome droner bliver mere udbredt i bymiljøer og følsomme operationerDisse typer angreb vil ophøre med at være en akademisk kuriositet og vil blive en faktor, som producenter, regulatorer og operatører bliver nødt til at overveje fra designfasen. Det kan være dyrt at ignorere disse sårbarheder, når implementeringen i stor skala allerede har fundet sted.
Angrebets begrænsninger og mulige forsvarslinjer
Selvom ideen om at "skyde en drone ned med en paraply" er meget tiltalende, bør man ikke tro, at en hvilken som helst farverig paraply duer. FlyTrap-mønsteret er omhyggeligt designet at udnytte specifikke svagheder i de algoritmer, der er blevet testet. Det er ikke et universelt trick, der automatisk vil virke med alle droner eller under alle omstændigheder.
Desuden kræver angrebet, at dronen bruger funktioner fra autonom synsbaseret sporingHvis operatøren styrer det helt manuelt, eller hvis flyet styres af andre sensorer (såsom LIDAR, radar eller avancerede sensorfusionskombinationer), kan marginen for at narre AI'en ved kun at bruge et visuelt mønster reduceres eller endda forsvinde.
En anden praktisk begrænsning er behovet for at Bring paraplyen fysisk tættere på dronens synsfeltI scenarier, hvor enheden flyver i stor højde eller holder en afstand på flere kilometer fra målet, er det muligvis ikke realistisk at opnå denne nærhed. FlyTrap er især farlig i lavtflyvende situationer, tæt sporing af mennesker eller bymiljøer med snævre ruter.
Fra forsvarssiden er der flere mulige handlingslinjer. En af dem er omskole synsmodeller Ved at bruge eksempler på modstridende mønstre som FlyTrap, lærer de at genkende dem som anomalier og undgå at falde i fælden med at nærme sig ukontrolleret. En anden mulighed er at kombinere visuel information med andre kilder (dybde, inertialsensorer, 3D-kort) for at undgå udelukkende at stole på, hvad kameraet ser.
Det er også rimeligt at introducere det i firmwaren nærhedsgrænser og yderligere sikkerhedsreglerDisse foranstaltninger forhindrer dronen i at nærme sig målet tættere end en vis afstand, når den registrerer usædvanlige eller inkonsekvente visuelle ændringer. Dette eliminerer måske ikke fuldstændigt bedraget, men det vil reducere sandsynligheden for, at dronen når en position, hvor den let kan fanges med hånden eller med et net.
Endelig, på reguleringsniveau, de organer, der er ansvarlige for at certificere droner til brug for sikkerheds-, politi- eller infrastrukturovervågning De bliver nødt til at inkludere test mod denne type fysiske angreb i deres vurderinger. At bruge en drone til at filme et bjergscene er ikke det samme som at bruge den til at patruljere en grænse: det krævede niveau af robusthed bør være klart anderledes.
Alt dette efterlader et kuriøst scenarie: jo mere "smarte" vi laver droner gennem AI, Vigtigere vil det være at tænke som en kreativ angriber som forsøger at finde genveje i den virkelige verden for at bedrage dem. Og det er her, en tilsyneladende uskyldig genstand som en farverig paraply kan ende med at blive hovedpersonen.
Kort sagt viser disse undersøgelser, at Sikkerheden i autonome systemer handler ikke kun om firewalls og krypteringmen også for at forstå, hvordan de opfatter miljøet, hvilke genveje deres algoritmer tager, og hvordan et simpelt grafisk mønster kan forvandle et avanceret ubemandet luftfartøj til noget lige så sårbart som en flue tiltrukket af en veldesignet fælde.