OpenAI a sous-traité le travail de modération de contenu en vue d'entrainer ChatGPT à une société américaine qui fait bien peu de cas de ses employés. Le site du Time relate l'histoire des petites gens qui ont permis le succès du chatbot.

ChatGPT, le chatbot omniscient ou presque fait sensation actuellement. Comme cela arrive souvent, la notoriété éclatante recèle sa part d’ombre. Son concepteur, OpenAI aurait confié la modération du modèle de langage utilisé pour former ChatGPT à une compagnie américaine nommée Sama. Cette dernière compte Google, Meta ou encore Microsoft parmi ses clients les plus prestigieux. Les employés de Sama avaient pour mission de labeliser des centaines de milliers de bouts de texte tirés du Web.

Une tâche des plus ingrates, car selon Time, « une grande partie de ces textes semble avoir été tirée des recoins les plus sombres d’Internet. Certains décrivaient des situations avec des détails graphiques tels que des abus sexuels sur des enfants, de la bestialité, des meurtres, des suicides, de la torture, de l’automutilation et de l’inceste ». On comprend mieux pourquoi le métier de modérateur augmente le risque de développer des maladies mentales. Les employés de Sama n’ont même pas eu la satisfaction d’être correctement rémunérés. En effet, leur salaire n’excédait pas 2 $ de l’heure alors que le salaire horaire minimal pour un modérateur californien aurait été de 17 $, environ.

Les modérateurs étaient payés 2 $ par heure pour filtrer les atrocités soumises à ChatGPT

En février 2022, Sama ferme ses bureaux de Nairobi, et licencie tout le monde. OpenAI a fait la même erreur que Meta en faisant appel à Sama, une entreprise est tristement connue pour les mauvaises conditions de travail qu’elle impose à ses employés. Bien que les responsables de l’entreprise affirment que cette décision a été prise en raison d’un climat économique international tendu, de nombreux observateurs estiment que cette fermeture est surtout due aux poursuites dont font l’objet Meta et Sama depuis mai 2022.

Cette mauvaise publicité n’empêche pas les investisseurs de se ruer sur OpenAI et ChatGPT. Microsoft a montré son intérêt pour cette technologie. La firme de Redmond souhaite non seulement l’intégrer dans Microsoft 365, mais elle aimerait aussi investir 10 milliards $ dans OpenAI et en devenir l’actionnaire majoritaire.

Source : Time