Home-theater-designers
ChatGPT är en kraftfull ny AI-chatbot som är snabb att imponera, men ändå har många människor påpekat att den har några allvarliga fallgropar. Fråga vad du vill, och du kommer att få ett svar som låter som att det är skrivet av en människa, som har lärt sig dess kunskaper och skrivförmåga från mängder av information på internet.
MAKEUSE AV DAGENS VIDEO
Men precis som internet är sanning och fakta inte alltid givna och ChatGPT gör sig skyldig till att ha fel. Med ChatGPT som kommer att förändra vår framtid, här är några av de största problemen.
Vad är ChatGPT?
ChatGPT är en stor språkinlärningsmodell som designades för att imitera mänskliga samtal. Den kan komma ihåg saker du har sagt till den tidigare och kan korrigera sig själv när den har fel.
Den skriver på ett människoliknande sätt och har en mängd kunskap eftersom den tränades på all möjlig text från internet, som Wikipedia, blogginlägg, böcker och akademiska artiklar.
Det är lätt att lära sig hur man använder ChatGPT , men det som är mer utmanande är att ta reda på vilka dess största problem är. Här är några som är värda att veta om.
1. ChatGPT är inte alltid rätt
Det misslyckas med grundläggande matematik, kan inte svara på enkla logiska frågor och kommer till och med gå så långt som att argumentera för helt felaktiga fakta. Som användare av sociala medier kan intyga, kan ChatGPT få fel vid mer än ett tillfälle.
OpenAI känner till denna begränsning och skriver att: 'ChatGPT skriver ibland plausibelt klingande men felaktiga eller meningslösa svar.' Denna 'hallucination' av fakta och fiktion, som vissa vetenskapsmän kallar det, är särskilt farlig när det kommer till något som medicinsk rådgivning.
Till skillnad från andra AI-assistenter som Siri eller Alexa använder Chat GPT inte internet för att hitta svar. Istället konstruerar den en mening ord för ord och väljer den mest sannolika 'token' som borde komma härnäst, baserat på dess träning.
Med andra ord, ChatGPT kommer fram till ett svar genom att göra en serie gissningar, vilket är en del av anledningen till att det kan argumentera för felaktiga svar som om de vore helt sanna.
Även om det är bra på att förklara komplexa begrepp, vilket gör det till ett kraftfullt verktyg för lärande, är det viktigt att inte tro på allt som står. ChatGPT är inte alltid korrekt – åtminstone inte än.
2. Bias är inbakat i systemet
ChatGPT utbildades i det kollektiva skrivandet av människor över hela världen, förr och nu. Detta innebär att samma fördomar som finns i data, också kan förekomma i modellen.
Faktum är att användare har visat hur ChatGPT kan ge några fruktansvärda svar, några, till exempel, som diskriminerar kvinnor. Men det är bara toppen av isberget; det kan ge svar som är extremt skadliga för en rad minoritetsgrupper.
Skulden ligger inte bara i data heller. OpenAI-forskare och -utvecklare väljer den data som används för att träna ChatGPT. För att hjälpa till att ta itu med vad OpenAI kallar 'partiskt beteende', ber den användare att ge feedback om dåliga resultat.
Med risk för att skada människor kan du hävda att ChatGPT inte borde ha släppts till allmänheten innan dessa problem har studerats och lösts.
En liknande AI-chatbot som heter Sparrow (ägd av Googles moderbolag, Alphabet) släpptes i september 2022. Den hölls dock bakom stängda dörrar på grund av liknande farhågor om att den skulle kunna orsaka skada.
Meta borde kanske också ha lett varningen. När den släppte Galactica, en AI-språkmodell utbildad på akademiska artiklar, återkallades den snabbt efter att många människor kritiserade den för att producera felaktiga och partiska resultat.
usb -port fungerar inte windows 10
3. En utmaning för gymnasieengelska
Du kan be ChatGPT att korrekturläsa ditt skrivande eller påpeka hur du kan förbättra ett stycke. Alternativt kan du ta bort dig själv från ekvationen helt och hållet och be ChatGPT att skriva något åt dig.
Lärare har experimenterat med att mata in engelska uppgifter till ChatGPT och har fått svar som är bättre än vad många av deras elever kunde göra. Från att skriva följebrev till att beskriva stora teman i ett berömt litteraturverk, ChatGPT kan göra det utan att tveka.
Det väcker frågan: om ChatGPT kan skriva åt oss, kommer eleverna behöva lära sig att skriva i framtiden? Det kan tyckas vara en existentiell fråga, men när eleverna börjar använda ChatGPT för att hjälpa till att skriva sina uppsatser måste skolorna snabbt komma på ett svar. Den snabba utbyggnaden av AI de senaste åren kommer att chockera många branscher, och utbildning är bara en av dem.
4. Det kan orsaka verklig skada
Tidigare nämnde vi hur felaktig information från ChatGPT kan orsaka verklig skada, med det mest uppenbara exemplet är felaktig medicinsk rådgivning.
Det finns andra bekymmer också. Falska konton i sociala medier utgör ett enormt problem på internet och med introduktionen av AI-chatbots skulle internetbedrägerier bli lättare att genomföra. Spridningen av falsk information är ett annat problem, särskilt när ChatGPT får till och med felaktiga svar att låta övertygande rätt.
Hastigheten med vilken ChatGPT kan producera svar som inte alltid är korrekta har redan orsakat problem för Stack Exchange, en webbplats där användare kan ställa frågor och få svar.
Strax efter att den släpptes, förbjöds svar från ChatGPT från sajten på grund av att ett stort antal av dem var felaktiga. Utan tillräckligt många mänskliga volontärer för att sortera i eftersläpningen skulle det vara omöjligt att upprätthålla en hög nivå av kvalitetssvar, vilket orsakar skada på webbplatsen.
5. OpenAI har all makt
Med stor makt kommer stort ansvar, och OpenAI har mycket makt. Det är ett av de första AI-företagen som verkligen skakade om världen med inte en utan flera AI-modeller, inklusive Dall-E 2, GPT-3 och nu ChatGPT.
OpenAI väljer vilken data som används för att träna ChatGPT och hur den hanterar de negativa konsekvenserna. Oavsett om vi håller med om metoderna eller inte kommer den att fortsätta utveckla denna teknik enligt sina egna mål.
Även om OpenAI anser att säkerheten är en hög prioritet, finns det mycket vi inte vet om hur modellerna skapas. Oavsett om du tycker att koden ska göras öppen källkod, eller håller med om att den ska hålla delar av den hemliga, finns det inte mycket vi kan göra åt det.
I slutändan är allt vi kan göra att lita på att OpenAI kommer att forska, utveckla och använda ChatGPT på ett ansvarsfullt sätt. Alternativt kan vi förespråka för att fler människor ska få säga i vilken riktning AI ska gå och dela kraften i AI med de människor som kommer att använda den.
Om du är intresserad av vad mer OpenAI har utvecklat, kolla in våra artiklar om hur man använder Dall-E 2 och hur man använder GPT-3 .
Ta itu med AI:s största problem
Det finns mycket att vara exalterad över med ChatGPT, OpenAI:s senaste utveckling. Men utöver dess omedelbara användningsområden finns det några allvarliga problem som är värda att förstå.
OpenAI medger att ChatGPT kan producera skadliga och partiska svar, för att inte tala om dess förmåga att blanda fakta med fiktion. Med en sådan ny teknik är det svårt att förutse vilka andra problem som kommer att uppstå. Så tills dess, njut av att utforska ChatGPT och var försiktig så att du inte tror på allt som står.