Snart kan det komma att avslöjas vem som använder Chat GPT. Bolaget bakom Chat GPT, Open AI, säger sig ha ett verktyg redo som kan avslöja om något är skrivet med hjälp av AI.
– Det är bara att trycka på en knapp, säger en anonym källa till Wall Street Journal.
Open AI har utvecklat ett helt nytt verktyg som bland annat kan avslöja om studenter använder Chat GPT för att göra sina uppgifter, det rapporterar Wall Street Journal. Istället för upptäcka textmönster ska det nya verktyget använda sig av textvattenmärkning för att upptäcka AI-genererad text. Genom att göra små justeringar i Chat GPTs ordval ska ett osynligt vattenmärke skapas i texten, som sedan kan identifieras av det nya verktyget.
Tidigare verktyg har varit mestadels ineffektiva, och Open AI stängde förra året ner sin AI-detektor på grund av låg träffsäkerhet. Då var träffsäkerheten 26 procent. Nu ska det nya verktyget enligt Wall Street Journals uppgifter ha en träffsäkerhet på över 99 procent.
Men även om verktyget har varit under utveckling de senaste två åren och är redo att släppas är det inte säkert att verktyget kommer att få se dagens ljus. Enligt uppgifter tvekar Open AI om de ska släppa det nya verktyget. Om för få får tillgång till det är det inte användbart, men om för många får tillgång kan någon utveckla ett system som rundar verktyget. En lösning kan vara att endast lärare och plagiatkontrollsverktyg får tillgång till verktyget.
– Metoden för textvattenmärkning som vi utvecklar är tekniskt lovande, men har betydande risker som vi väger in när vi undersöker alternativ, säger en talesperson för Open AI till WSJ.
Ett annat problem som bolaget bakom Chat GPT står inför är att om man ändrar systemet för mycket riskerar man att kraftigt påverka användbarheten för bland annat icke engelsktalande.
Melker Rundén bevakar börs och ekonomi för NU.se.
