Les robots aspirateurs peuvent désormais utiliser leurs caméras reconnaître les obstacles de façon autonome puis les contourner. C’est pourquoi ils prennent le leur Environs et téléchargez les images dans le cloud. Mais ça devient inconfortable quand images épicées atterrir sur le web.
C’est ce qui s’est passé il y a environ 2 ans au Venezuela, comme le rapporte le MIT Technology Review. Au iRobot Roomba J7 pris une femme avec son pantalon sur les toilettes et téléchargé les images sur le cloud. Malheureusement pour la femme, l’appareil était un version développeurdont les images ont été utilisées pour optimiser le logiciel de navigation.
Les images ont été évaluées manuellement
Afin d’améliorer l’intelligence artificielle (IA) derrière le logiciel, les données ont été envoyées à l’entreprise Mettre à l’échelle l’IA habilement. Là, des personnes du monde entier évaluent les images manuellement, ce qui entraîne le logiciel. Cependant, les images ne sont pas restées avec Scale AI, mais étaient en groupes privés sur Facebook transmis.
Examen de la technologie lui-même 15 photos divulguées, qui ont été utilisés pour entraîner l’IA. La plupart d’entre eux ont montré obstacles habituels comme des chaussures et des placards, d’autres représentaient des animaux domestiques et des enfants.
Ne faites pas trop confiance à la technologie
Technology Review met en garde contre une dépendance excessive à l’égard des appareils technologiques. La scientifique de l’information Jessica Vitak explique dans l’article : « C’est beaucoup plus facile d’accepter un petit aspirateur mignon se déplaçant dans une pièce que quelqu’un se promenant dans ma maison avec une caméra ».
Cependant, la règle empirique s’applique toujours : si un appareil a un appareil photo et connexion internet disponible, il faut supposer que quelqu’un pourrait regarder.
Les utilisateurs ont accepté d’être inclus
Cependant, la société iRobot elle-même ne peut être blâmée ici. D’une part, la version développeur est un appareil qui pas dans le commerce était disponible. D’autre part, tous les testeurs auraient consentique des enregistrements de l’environnement soient transmis à des fins de formation. De plus, un autocollant avec l’avertissement « l’enregistrement est en cours » être collé.
Avec les entreprises qui évaluent les images Accords de confidentialité été fermé. Le fait que les photos se soient retrouvées sur Facebook est une violation manifeste, comme le dit l’entreprise elle-même. Vous avez la coopération avec Scale AI entre-temps terminéles contrats avec d’autres entreprises ont été affinés.