Tech: Google is being urged to ban AI-generated videos aimed at children on YouTube due to concerns over their safety and appropriateness.

Alphabet Inc., la société mère de Google, fait face à des pressions croissantes de la part d'experts en développement de l'enfant qui exigent l'interdiction des vidéos créées par intelligence artificielle sur YouTube et YouTube Kids. Ces spécialistes soulignent les risques potentiels que ces contenus peuvent poser pour les jeunes utilisateurs, qui sont souvent vulnérables et impressionnables.

Les vidéos générées par l'IA peuvent parfois présenter des informations erronées ou des messages inappropriés, ce qui pourrait nuire à la compréhension et au développement des enfants. Les experts insistent sur l'importance de garantir que le contenu accessible aux jeunes soit à la fois éducatif et sécuritaire. Ils craignent que l'algorithme de YouTube ne recommande des vidéos qui, bien que divertissantes, ne soient pas adaptées à l'âge des enfants.

Les parents et éducateurs sont également préoccupés par ces contenus. Beaucoup s'interrogent sur la capacité de la plateforme à filtrer efficacement les vidéos créées par des algorithmes, qui peuvent ne pas respecter les normes de qualité et de sécurité attendues. L'interdiction de ces vidéos pourrait être une étape cruciale pour protéger les enfants et leur offrir un environnement numérique plus sain.

En réponse à ces inquiétudes, Google doit désormais évaluer ses politiques concernant l'utilisation de l'IA dans la création de contenu. La compagnie pourrait envisager de collaborer avec des spécialistes en développement de l'enfant pour établir des lignes directrices claires et des protocoles de vérification. Cela pourrait non seulement renforcer la confiance des parents, mais aussi garantir que YouTube et YouTube Kids demeurent des espaces sécuritaires et enrichissants pour les jeunes utilisateurs.