Folkhälsomyndigheten ska utreda riskerna.
Efter att ha föreslagit åldersgränser för smarta mobiltelefoner och sociala medier vill regeringen nu skydda barn och ungdomar från de nya AI-verktygen.
Sålunda har Folkhälsomyndigheten nu fått i uppdrag att undersöka riskerna med användning av generativ AI i förhållande till barnens psykiska hälsa och välmående.
– Barn och unga är särskilt sårbara för de risker som generativ AI kan medföra. Vi måste agera nu för att säkerställa att tekniken inte påverkar deras psykiska hälsa och välmående negativt. Det är avgörande att både barn, unga och vårdnadshavare får rätt stöd och vägledning för att navigera i den digitala miljön på ett säkert sätt, säger socialminister Jakob Forssmed i ett pressmeddelande.
Enligt Internetstiftelsen används de nya AI-verktygen av drygt hälften av alla barn och ungdomar i åldrarna 8-19 år.
AI-användningen riskerar att leda till en förstärkning av negativa tankemönster, försämrad förmåga till mänskliga relationer, sömnstörningar och spridning av felaktig hälsoinformation.