Danske privatpersoners personoplysninger ligger i de samme datasæt som musikken, bøgerne og billederne. I to frit tilgængelige datasæt fandt jeg navne koblet til CPR-numre, tusindvis af e-mailadresser og hundredtusindvis af telefonnumre.
Jeg har gennemgået to frit tilgængelige datasæt, HPLT 2.0 og FineWeb-2, der tilsammen rummer cirka 86 millioner danske webdokumenter og bruges til at træne sprogmodeller. I dem fandt jeg persondata om danske privatpersoner i stort omfang. I 342 tilfælde står en navngiven persons fulde navn og CPR-nummer sammen i det samme dokument, fordelt over flere hundrede forskellige dokumenter. Dertil kommer 43.228 e-mailadresser på navngivne personer og cirka 545.000 telefonnumre. Hvert CPR-fund er efterprøvet i den faktiske tekst og renset for falske positive som CVR-, vare- og stylenumre.
CPR-numrene findes især i delte dokumenter som opgaver, blanketter og ansøgninger, der er endt på offentligt tilgængelige dokument-delingssider og dermed i de web-crawls, modellerne trænes på. Der ligger hverken hacks eller systemlæk bag. Det er almindelige dokumenter, der uforvarende er blevet liggende åbent, og som den meget brede, løbende indsamling fra Common Crawl har samlet op sammen med resten af det åbne net.
Tallene er bevidst konservative. CPR-numre er valideret med en matematisk kontrol af nummeret og talt med, når et fuldt navn står i samme dokument eller formatet er entydigt. E-mail- og telefonfund er dedupliceret, så det samme tal ikke tælles flere gange, og test-eksempler og skabeloner er sorteret fra. Jeg offentliggør ingen af de fundne oplysninger.
HPLT 2.0 og FineWeb-2 er begge bygget af web-crawls fra Common Crawl. De samme crawls ligger til grund for en lang række af de største træningsdatasæt. Da jeg gentog analysen på det andet datasæt, gik de samme typer persondata igen, og tallet voksede. Den type persondata er gennemgående i web-skala-scrapes og går igen på tværs af datasættene.
Problemet er dobbelt. Oplysningerne ligger frit til download for enhver på den platform, datasættet er offentliggjort på. Og sprogmodeller memorerer dele af det, de trænes på, og kan gengive det på opfordring. Det er for nylig dokumenteret, at chatbots som ChatGPT og Gemini har udleveret rigtige personers telefonnumre og adresser fra deres træningsmateriale.
MIT Technology Review, AI chatbots are giving out people's real phone numbers
Gizmodo, ChatGPT Gave Out My Address and Phone Number
Jeg har henvendt mig til Datatilsynet om problemstillingen og deler oplysningerne med dem. Oplysningerne offentliggøres ikke her.
Tallene er ikke udtømmende, de er et minimum. Jeg har gennemgået hele den danske del af datasættet, alle 33,8 millioner dokumenter, men tæller kun fund med, når de kan påvises med høj sikkerhed. Det reelle antal i datasættet er derfor højere. Det er to datasæt, og samme type persondata findes i endnu flere datasæt bygget på de samme web-crawls. Formålet med siden er at vise, at personoplysninger indgår i AI-træningsdata. Ingen enkeltpersoner fremhæves.