Home-theater-designers
Artificiell intelligens (AI) kommer att förändra hela delar av vårt samhälle vare sig vi gillar det eller inte, och det inkluderar World Wide Web.
Med programvara som ChatGPT tillgänglig för alla med en internetanslutning, blir det allt svårare att separera AI-genererat innehåll, från det som skapats av en människa. Bra att vi har AI-innehållsdetektorer, eller hur?
MAKEUSE AV DAGENS VIDEO SCROLL FÖR ATT FORTSÄTTA MED INNEHÅLL
Fungerar AI-innehållsdetektorer?
AI-innehållsdetektorer är specialiserade verktyg som avgör om något är skrivet av ett datorprogram eller en människa. Om du bara Googlar på orden 'AI-innehållsdetektor' kommer du att se det finns dussintals detektorer där ute, alla hävdar att de på ett tillförlitligt sätt kan skilja mellan mänsklig och icke-mänsklig text.
Sättet de fungerar på är ganska enkelt: du klistrar in en text och verktyget talar om för dig om det genererades av AI eller inte. I mer tekniska termer, med hjälp av en kombination av naturliga språkbehandlingstekniker och maskininlärningsalgoritmer, letar AI-innehållsdetektorer efter mönster och förutsägbarhet och ringer anrop baserat på det.
Det här låter bra på pappret, men om du någonsin har använt ett AI-detektionsverktyg vet du mycket väl att de är hit-and-miss, för att uttrycka det milt. Oftare än inte upptäcker de mänskligt skrivet innehåll som AI, eller text skapad av människor som AI-genererad. Vissa är faktiskt pinsamt dåliga på vad de ska göra.
Hur exakta är AI-innehållsdetektorer?
Om du är i USA är det första Google-sökresultatet för 'AI content detector' writer.com (tidigare känt som Qordoba; detta är en AI-innehållsplattform som också har en egen detektor). Men när du klistrar in ett avsnitt av detta slumpmässigt Opartisk Press artikeln i verktyget, hävdar den att det finns en mycket god chans att den genererades av artificiell intelligens.
Så writer.com har fel.
För att vara rättvis är andra AI-innehållsdetektorer knappast bättre. De producerar inte bara falska positiva resultat, utan de markerar också AI-innehåll som mänskligt. Och även när de inte gör det räcker det att göra mindre justeringar av AI-genererad text för att klara av med glans.
I februari 2023 testade University of Wollongong-lektor Armin Alimardani och docent vid UNSW Sydney Emma A. Jane ett antal populära AI-innehållsdetektorer och fastställde att ingen av dem är tillförlitlig. I deras analys, som publicerades i Konversationen , drog Alimardani och Jane slutsatsen att denna AI 'kapprustning' mellan textgeneratorer och detektorer kommer att utgöra en betydande utmaning i framtiden, särskilt för pedagoger.
Men det är inte bara pedagoger och lärare som har anledning till oro: det gör alla. När AI-genererad text blir allestädes närvarande, att kunna skilja mellan vad som är 'riktigt' och vad som inte är, d.v.s. att faktiskt se när något är skrivet av AI , kommer att bli svårare. Detta kommer att ha en massiv inverkan på praktiskt taget alla branscher och samhällsområden, även personliga relationer.
AI:s konsekvenser för cybersäkerhet och integritet
Det faktum att det inte finns några tillförlitliga mekanismer för att avgöra om något skapades av programvara eller en människa har allvarliga konsekvenser för cybersäkerhet och integritet.
Hotskådespelare är redan det använder ChatGPT för att skriva skadlig programvara , generera nätfiske-e-postmeddelanden, skriva spam, skapa bluffwebbplatser och mer. Och även om det finns sätt att försvara sig mot det, är det verkligen oroande att det inte finns någon programvara som på ett tillförlitligt sätt kan skilja mellan organiskt och botinnehåll.
vad är det andra i iphone -lagring
Även falska nyheter är redan ett stort problem. Med generativ AI i bilden kan desinformationsagenter skala sin verksamhet på ett aldrig tidigare skådat sätt. En vanlig person har under tiden inget sätt att veta om något de läser online skapades av programvara eller en människa.
Sekretess är en helt annan sak. Ta ChatGPT, till exempel. Det var matade mer än 300 miljarder ord innan den lanseras. Detta innehåll lyftes från böcker, blogg- och foruminlägg, artiklar och sociala medier. Den samlades in utan någons samtycke och med till synes fullständig ignorering av integritet och upphovsrättsskydd.
Sedan finns det också frågan om falska positiva resultat. Om innehåll av misstag flaggas som AI-genererat, kan det inte leda till censur, vilket ändå är ett stort problem? För att inte tala om den skada som anklagas för att använda AI-skapad text kan göra på ens rykte, både online och i verkligheten.
Om det verkligen finns en kapprustning mellan generativ AI och innehållsdetektorer, vinner den förra. Vad värre är, det verkar inte finnas någon lösning. Allt vi har våra halvfärdiga produkter som inte ens fungerar halva tiden, eller kan luras väldigt lätt.
Hur man upptäcker AI-innehåll: potentiella lösningar
Att vi för närvarande inte verkar ha några riktiga svar på detta problem betyder inte att vi inte kommer att ha några i framtiden. Faktum är att det redan finns flera seriösa förslag som skulle kunna fungera. Vattenmärkning är en.
När det kommer till AI och djupa språkmodeller hänvisar vattenmärke till att bädda in en hemlig kod i AI-genererad text (t.ex. ordmönster, skiljeteckenstil). En sådan vattenstämpel skulle vara osynlig för blotta ögat, och därmed nästan omöjlig att ta bort, men specialiserad programvara skulle kunna upptäcka den.
Faktum är att redan 2022, University of Maryland forskare utvecklade en ny vattenmärkningsmetod för artificiella neurala nätverk. Huvudforskaren Tom Goldstein sa då att hans team hade lyckats 'bevisa matematiskt' att deras vattenstämpel inte kan tas bort helt.
För tillfället, vad en vanlig person kan göra är att lita på sina instinkter och sunt förnuft. Om det är något fel med innehållet du läser – om det känns onaturligt, repetitivt, fantasilöst, banalt – kan det ha skapats av programvara. Naturligtvis bör du också verifiera all information du ser online, dubbelkolla källan och hålla dig borta från skumma webbplatser.
AI-revolutionen är på gång
Vissa hävdar att den femte industriella revolutionen redan är här, eftersom artificiell intelligens står i centrum i vad som beskrivs som en konvergens av det digitala och fysiska. Oavsett om det verkligen är fallet eller inte, allt vi kan göra är att anpassa oss.
Den goda nyheten är att cybersäkerhetsindustrin anpassar sig till denna nya verklighet och implementerar nya försvarsstrategier med AI och maskininlärning i framkant.