AI-assistenter fejler: Forskning viser chatbots, der henviser brugere til ulicenserede kasinoer

Kunstig Intelligens (AI) bliver ofte hyldet som den ultimative løsning til online sikkerhed, men inden for online spil ser det ud til at gøre det stik modsatte. En nylig undersøgelse fra Holland har afdækket, at populære generative AI chat- og søgeassistenter systematisk leder brugere mod ulovlige operatører. Mest alarmerende er det, at disse værktøjer ikke kun nævner casinoerne, men ofte antyder, at disse platforme er statsautoriserede og officielt licenserede. Risikoen for forbrugerne er betydelig, da kritiske beskyttelsesmekanismer som Cruks selvudelukkelsesregisteret fuldstændig omgås af disse AI-anbefalinger.

Undersøgelsen fremhæver en farlig fejl i programmeringen af systemer som ChatGPT, Google Gemini og Microsoft Copilot. I stedet for at styrke det lovlige marked, fremhæver AI-værktøjer ofte fordelene ved sortmarkedet, såsom højere bonusser eller fraværet af identitetskontrol. For spillere, der søger et sikkert miljø, er det blevet et digitalt minefelt at søge med AI-assistance. Den juridiske gråzone, som mange internationale operatører befinder sig i, bliver yderligere udvisket af disse unøjagtige AI-svar, hvilket gør opgaven for de regulerende myndigheder betydeligt sværere.

Tal og fakta

Forskere hos XY Legal Solutions gennemførte deres tests mellem august og september 2026. I alt ti førende AI-systemer blev evalueret, herunder OpenAI's ChatGPT, Microsoft Copilot, Google Gemini, Anthropic Claude og xAI Grok. Resultaterne er barske: i 33 ud af 79 registrerede interaktioner nævnte værktøjerne mindst én operatør, der manglede en gyldig hollandsk licens. Hastigheden af misretningen var særligt bemærkelsesværdig. Fire programmer – Mistral Le Chat, Google AI Mode, DeepSeek og Grok – genererede navne på ulovlige hjemmesider efter blot en enkelt prompt.

Eksperterne fremhævede Microsoft Copilots præsentation som særligt problematisk. Systemet genererede en Top 50 liste over lovlige casinoer, der inkluderede adskillige mærker, som pr. 1. september 2026 ikke havde nogen godkendelse fra Kansspelautoriteit (KSA). På trods af indledende etiske advarsler fra nogle AI'er, gav mange resultater efter gentagne spørgsmål. Undersøgelsen viser, at sikkerhedsfiltre let kan omgås ved at omformulere spørgsmål, hvilket effektivt neutraliserer forbrugerbeskyttelse.

Baggrund

Konflikten om synligheden af ulovlige tilbud er ikke begrænset til AI-chatbots. Parallelt med undersøgelsen er der et massivt juridisk pres på store teknologivirksomheder. Den hollandske spilbrancheforening VNLOK har officielt stævnet Meta for retten. Anklagen er alvorlig: socialmediegiganten tillod angiveligt udbredt annoncering for ulovligt spil at nå forbrugerne på Facebook og Instagram på trods af gentagne advarsler. Sagen blev først indledt i juni, og situationen er nu eskaleret til de hollandske domstole.

"Wir haben Meta wiederholt auf das Ausmaß des Problems hingewiesen und sie gebeten, strukturell an einer Lösung mitzuwirken. Dies hat zu unzureichenden Ergebnissen geführt. Daher bringen wir den Fall nun vor die niederländischen Gerichte." - Björn Fuchs, Vorsitzender der VNLOK

Diese Entwicklung zeigt, dass die Branche an einem Scheideweg steht. Während die Behörden versuchen, den Markt durch Lizenzen und Sperrdateien wie Cruks zu kontrollieren, eröffnen Tech-Plattformen durch Algorithmen und KI-Fehler neue Hintertüren für unregulierte Anbieter.

Warum es für deutsche Spieler relevant ist

Für Spieler in Deutschland ist dieses Problem hochrelevant, auch wenn sich die Studie hauptsächlich auf den niederländischen Markt konzentrierte. In Deutschland regelt die Glücksspielstaatsvertrag (GlüStV) 2021 streng, wer Online-Wetten und Spielautomaten anbieten darf. Wer eine KI nach den besten Casinos fragt, läuft Gefahr, zu Anbietern mit MGA- oder Curacao-Lizenzen geleitet zu werden, die keine Erlaubnis für virtuelle Spielautomaten in Deutschland besitzen. Die Konsequenzen sind gravierend: Diese Anbieter integrieren sich nicht in das anbieterübergreifende LUGAS-Tracking-System oder das monatliche Einzahlungslimit von 1.000 Euro.

Darüber hinaus ist das Limit von 1 Euro pro Spin bei deutschen Online-Spielautomaten eine gesetzliche Auflage zum Spielerschutz, die illegale Anbieter oft als Wettbewerbsvorteil (keine Limits) bewerben. Deutsche Nutzer sollten sich niemals auf KI-generierte Listen verlassen, sondern ausschließlich die offizielle Whitelist der Gemeinsamen Glücksspielbehörde der Länder (GGL) konsultieren. Nur so können sie sicherstellen, dass strenge deutsche Standards eingehalten werden und die Gelder der Spieler rechtlich geschützt sind.

Was es für GGL-lizenzierte Casinos bedeutet

Für legal operierende Casinos mit einer GGL-Lizenz stellt die KI-Fehlleitung einen unfairen Wettbewerbsnachteil dar. Während lizenzierte Betreiber teure regulatorische Anforderungen erfüllen, werden sie in KI-Rankings oft von illegalen Konkurrenten verdrängt, die Spieler mit höheren Boni locken können. Die Studie belegt, dass KI-Modelle wie Mistral Le Chat oft illegale Seiten bewerben, indem sie Produktvorteile wie schnelle Auszahlungen ohne Identitätsprüfungen hervorheben. Dies untergräbt die Bemühungen der GGL, die Glücksspielsucht in regulierte und überwachte Bahnen zu lenken. Es bleibt abzuwarten, ob Regulierungsbehörden schließlich Richtlinien für KI-Entwickler herausgeben müssen, um die Verbreitung illegaler Glücksspielinhalte zu verhindern.