En 2020, un Roomba de nouvelle génération équipé de caméras et de capteurs a enregistré une femme dans la salle de bain alors qu’elle faisait ses besoins (parmi de nombreux autres cas). D’une manière ou d’une autre, les images ont fini par a fait le tour du monde via les médias sociaux. Comment cela a-t-il pu arriver ? La vérité est que ce n’est pas que le robot a publié les images, mais qu’il a remis en question les systèmes d’entraînement de l’IA et, surtout, la vie privée de chacun.
Comme indiqué dans MIT Tech Reviewles images n’ont pas été prises par une personne, mais par des versions de développement du robot Roomba J7 d’iRobot. Ils ont ensuite été envoyés à Scale AI, une startup qui embauche des travailleurs du monde entier pour marquer les données audio, photo et vidéo utilisées pour former l’intelligence artificielle. Et à partir de là, ils ont fini n’importe où.
Logiquement, iRobot, récemment racheté par Amazon, était au courant du problème, et dans des déclarations aux médias précités, a confirmé que ces images ont été capturées par son Roomba en 2020. Cependant, toutes les images ont été prises par « des robots de développement spécial avec des modifications matérielles et logicielles qui ne sont pas et n’ont jamais été présentes dans les produits grand public d’iRobot destinés à l’achat ».. Le problème n’était pas dans le robot lui-même, mais dans le facteur humain qui était responsable de la formation de l’algorithme qui est maintenant utilisé pour ses aspirateurs intelligents :
Une atteinte à la vie privée due à des facteurs humains
Au total, MIT Tech Review a trouvé 15 images particulièrement embarrassantes et portant atteinte à la vie privée. Mais dans sa présentation, l’entreprise a confirmé qu’elle avait entraîné ses IA à l’aide de plus de 2 millions d’images comportant des éléments suivants L’IA à l’échelle et une quantité inconnue de plus avec d’autres plateformes de collecte de données. Toutefois, il convient de noter que ce n’est pas que les robots ont pris des images sans consentement, puisque les « protagonistes » des images participaient activement à l’événement. dans ces programmes d’essai.
Cependant, il n’est pas évident qu’un humain doive examiner ces images, notamment pour des raisons de respect de la vie privée. Et certainement pas pour les faire sortir de leur cadre. Cependant, les participants aux programmes de développement ont accepté de prendre part à différents tests.
Selon iRobot, cela n’aurait jamais dû arriver. L’entreprise a mis fin à sa relation avec le prestataire de services qui a divulgué les images, elle enquête activement sur la question et, comme l’a confirmé l’agence de presse de la Commission européenne, elle est en train d’examiner la question. MIT Tech Review prennent des mesures pour aider à prévenir une fuite similaire par tout fournisseur de services à l’avenir ».
A lire également :
