Kina föreslår nya regler för AI-modeller

Kinas cybersäkerhetsmyndighet har publicerat ett utkast med förslag på nya regleringar för AI-modeller. Dessa regler ska gälla AI-tjänster som simulerar mänskliga personlighetsdrag, tankemönster och kommunikationsstilar och interagerar känslomässigt med användare.

Krav på AI-leverantörer

Förslaget innebär att AI-leverantörer blir skyldiga att varna användare om överdriven användning och ställer krav på att leverantörer ingriper när användare visar tecken på att vara beroende av tjänsten. Detta ska ske genom att bedöma användarens känslor och hur mycket och ofta tjänsten används. Om användare visar sig extremt känslosamma eller beroende ska leverantörerna vidta nödvändiga åtgärder.

Säkerhetskrav

I utkastet ingår också att AI-leverantörerna blir ansvariga för tjänstens säkerhet, däribland genom krav på algoritmgranskning, datasäkerhet och skydd av personuppgifter. Dessutom begränsar förslaget tillåtet innehåll och beteende: ryktesspridning, våldsfrämjande eller innehåll som äventyrar den nationella säkerheten föreslås förbjudas.

Detta är ett steg mot att säkerställa att AI-tjänster används på ett ansvarsfullt sätt och att skydda användarna från potentiella risker. Genom att införa dessa regler kan Kina bidra till att skapa en tryggare och mer säker digital miljö för sina medborgare.