volg ons op Facebook

Walaw

Technologie

Google lanceert een open source-tool om door AI gegenereerde tekst te identificeren

Friday 25 October 2024 - 09:35

Google heeft dit aangekondigd via de Deze technologie heeft tot doel het gemakkelijker te maken onderscheid te maken tussen door AI gegenereerde inhoud en door mensen geschreven inhoud.

Google legde uit dat deze technologie, die afgelopen augustus werd aangekondigd, nu beschikbaar is voor ontwikkelaars via het ‘Hugging Face’-platform en kan worden gebruikt om verantwoorde kunstmatige-intelligentietoepassingen te helpen bouwen. Volgens Pushmeet Kohli, vice-president onderzoek van DeepMind, maakt deze tool het voor ontwikkelaars gemakkelijker om tekst te ontdekken die is gegenereerd door hun grote taalmodellen.

SynthID Text is gebaseerd op het toevoegen van een onzichtbaar watermerk aan door AI gegenereerde tekst, zodat deze alleen door aangepaste software kan worden gedetecteerd zonder zichtbaar te zijn voor het menselijk oog. Het Google DeepMind-team ontdekte dat deze technologie geen invloed heeft op de kwaliteit, creativiteit of nauwkeurigheid van teksten.

Watermerken worden steeds belangrijker in de strijd tegen misleidende en aanstootgevende inhoud die door kunstmatige intelligentie wordt gegenereerd. Met het toenemende gebruik van generatieve AI zijn regeringen als Californië en China begonnen te overwegen het gebruik van deze tags verplicht te stellen om de veiligheid van gepubliceerde informatie te garanderen.

Trefwoorden: