Hvis du nogensinde har spekuleret på, hvordan en maskine kan genkende dit ansigt eller forstå, hvad du siger, ligger svaret i fascinationen af den menneskelige hjerne. Disse biologiske strukturer, der er sammensat af sammenkoblede neuroner, der transmitterer elektriske signalerDe har fungeret som en skabelon for at skabe det, vi i dag kender som kunstige neurale netværk, som grundlæggende er algoritmer designet til at løse komplekse matematiske gåder.
I dagens verden er vi blevet vant til, at kunstig intelligens er synonymt med supercomputere og et enormt energiforbrug. Der er dog en meget interessant tendens, der søger at... optimere energieffektivitetensætter spørgsmålstegn ved, om vi virkelig skal behandle millioner af multiplikationer for at få et simpelt svar, og dermed efterligne vores egen hjernes energibeherskelse.
Klassisk arkitektur: fra perceptronen til Deep Learning
For at forstå, hvor vi er på vej hen, er vi nødt til at vide, hvor vi kommer fra. Et grundlæggende neuralt netværk er typisk organiseret i tre niveauer. Det hele starter ved inputlagDet er her, systemet modtager data udefra, analyserer dem og sender dem videre. Så kommer skjulte lagsom kan være en enkelt eller dusinvis af dem; det er her, den virkelige bearbejdning finder sted, hvor informationen forfines i hvert trin.
Endelig ankom vi til outputlaghvilket giver os den endelige dom. Afhængigt af hvad vi leder efter, kan vi have en enkelt node til et ja- eller nej-svar (binær klassificering), eller flere noder, hvis problemet er mere komplekst og kræver valg mellem flere kategorier.
Når vi taler om Dyb læringVi refererer til netværk med mange skjulte lag og millioner af forbindelser. I denne model er forholdet mellem neuroner defineret af en numerisk værdi kaldet vægtProblemet er, at disse netværk er data- og energislugere, der kræver millioner af eksempler for at undgå fejl.
Hjertet i træning: Forlæns og baglæns propagation
For at et netværk kan lære, skal det først forsøge at gætte. Processen med Forplantning fremad Det er dybest set en venstre-mod-højre-rejse: dataene kommer ind, ganges med vægtene, en justering kaldet bias tilføjes, og den går gennem en aktiveringsfunktion (som Sigmoid eller ReLu) for at afgøre, om neuronen "affyres" eller ej.
Men da netværket ikke ved noget i starten, vil det fejle spektakulært. Det er her, Tilbageformninghvilket er der, magien sker. Algoritmen bevæger sig nu fra højre mod venstre og beregner fejlen mellem det opnåede resultat og det faktiske resultat. matematiske derivaterNetværket justerer vægtene for at minimere fejlen i den næste iteration.
En central detalje i denne proces er læringshastighedHvis den er for høj, lærer netværket hurtigt, men er unøjagtig; hvis den er for lav, bliver processen uendelig. Det endelige mål er at nå det globale minimum af omkostningsfunktionen, hvilket gør det muligt for netværket at generalisere information korrekt.
Revolutionen af vægtløse neurale netværk
Det er her, det bliver spændende. Professor Lizy K. John og hendes team bryder med standarden ved at foreslå vægtløse neurale netværkMens konventionel AI er afhængig af at udføre milliarder af multiplikationer (en meget dyr operation for hardwaren), bruger denne tilgang sammenkoblede opslagstabeller.
I stedet for at beregne en kompleks aritmetisk operation, konsulterer netværket blot et gemt svar baseret på binære input. Det er et system, der minder meget om, hvordan mennesker ræsonnerer: vi ganger ikke tal i vores hoveder for at afgøre, om vi skal gå til venstre eller højre, men snarere vi behandler aktiveringssignaler.
Resultaterne er simpelthen forbløffende. I opgaver som medicinsk overvågning (EKG eller EEG) eller søgeordsgenkendelse kan disse netværk tusind gange mindre og mere effektivForestil dig at gå fra en 17-megabyte model til en på kun 14 kilobyte. Dette gør det muligt for AI at leve direkte i sensoren gennem EdgeComputing uden at skulle sende data til skyen, hvilket også er en Et argument for privatlivets fred bruger.
Mod en bæredygtig og let AI
Det handler ikke kun om at fjerne vægte; der er også en tendens til... lette neurale netværkDisse er designet til at forbruge mindst muligt energi og hukommelse ved hjælp af teknikker som f.eks. sparsom træning eller beskæringhvilket består i at eliminere forbindelser, der ikke bidrager med noget til det endelige resultat.
Denne tilgang er afgørende i sektorer som f.eks. energistyring i bygninger eller køling af datacentre, hvor optimering af forbruget kan betyde energibesparelser på op til 30%Målet er klart: at AI ikke skal være et klimaproblem, men en del af løsningen, der muliggør billige enheder, som f.eks. ARM Cortex mikrocontrollere, udfør intelligente opgaver i realtid.
Fra transformerne, der driver moderne chatbots, til billedfokuserede konvolutionelle neurale netværk (CNN'er), fører vejen til effektivitet gennem reducere beregningskompleksitetenSpringet fra den klassiske perceptron til generativ AI har været enormt i data og kraft, men den sande banebrydende teknologi søger nu at gøre mere med meget mindre.
Overgangen fra tætte, multiplikationstunge arkitekturer til systemer baseret på binær søgning og beskårne modeller gør kunstig intelligens levedygtig på bittesmå enheder. Ved at integrere energieffektivitet og matematisk forenkling bliver databehandling dramatisk hurtigere og mere bæredygtig, hvilket baner vejen for lokal, privat databehandling, der ikke længere er afhængig af massive GPU'er for at fungere korrekt.
