Une agence britannique met en garde contre l’utilisation de l’AI pour surveiller les employés

Dans un avertissement récent, une agence gouvernementale britannique spécialisée dans les technologies de l’information a évoqué les préoccupations liées à l’utilisation croissante des technologies avancées de lecture du cerveau, qui permettent désormais de décoder les pensées humaines.

L’agence a averti que les entreprises pourraient exploiter ces avancées pour surveiller les performances des employés et les inciter à améliorer leur productivité.

Selon l’Office du Commissaire à l’Information (ICO), les entreprises pourraient potentiellement utiliser la technologie de lecture du cerveau à des fins de surveillance ou de recrutement.

Cependant, l’agence souligne le risque réel de discrimination si la « neurotechnologie » n’est pas développée et utilisée de manière appropriée.

Les médias locaux de Londres ont rapporté ces préoccupations soulevées par l’ICO.

Un rapport publié par l’ICO met en lumière la possibilité d’une utilisation future de la neurotechnologie pour surveiller les lieux de travail. Certaines entreprises, telles que Neuralink, explorent déjà de nouvelles méthodes permettant aux ordinateurs d’établir une communication avec le cerveau humain.

Selon Stephen Almond de l’ICO, tous les indicateurs laissent présager une croissance extrêmement rapide dans ce domaine, que ce soit en termes d’investissements ou de brevets déposés. Il estime que cette technologie est en plein essor.

Le rapport de l’ICO souligne que la neurotechnologie est déjà utilisée dans le secteur des soins de santé, où des réglementations strictes sont en place. Il mentionne également l’histoire d’un individu paralysé nommé Ian Ouskam, qui a bénéficié d’implants électroniques dans son cerveau, lui permettant de retrouver la capacité de marcher après douze ans.

L’intérêt commercial pour cette technologie est en constante augmentation, comme en témoigne l’autorisation accordée à Neuralink pour mener des essais sur des puces intelligentes reliant le cerveau à l’ordinateur.

Bien que la société soit actuellement évaluée à 5 milliards de dollars, il convient de noter qu’elle est encore loin d’être un produit commercialisé.

Outre les implications sur le lieu de travail, l’intelligence artificielle ouvre de nouvelles possibilités. Des projets de recherche sont désormais en mesure de déchiffrer des phrases et des mots à partir de simples scans cérébraux.

Cela pourrait notamment bénéficier aux patients atteints du locked-in syndrome, qui sont conscients mais incapables de bouger ou de parler.

Le rapport de l’ICO se concentre également sur les technologies futures hypothétiques, utilisant des exemples pour explorer les problématiques soulevées par les données neuronales.

Dans les années à venir, l’ICO estime que la « technologie neuronale » sera largement utilisée sur les lieux de travail pour des raisons de sécurité, de productivité et de recrutement. Les casques ou les équipements de sécurité pourraient être utilisés pour mesurer l’attention et la concentration des employés dans des environnements à haut risque.

Almond suggère que les chefs d’entreprise pourraient les utiliser pour évaluer la réaction individuelle face aux pressions du travail.

À plus long terme, dans le domaine de l’éducation, des dispositifs portables de surveillance cérébrale pourraient être utilisés pour mesurer les niveaux de concentration des élèves et leur niveau de stress.

En outre, ces technologies pourraient être utilisées dans le domaine du marketing, ce qui est déjà appelé « marketing neuronal », et est déjà utilisé dans des environnements de recherche restreints.

L’ICO indique que, dans le futur, des dispositifs portables capables de lire les réponses cérébrales pourraient être utilisés pour personnaliser les préférences des consommateurs. Par exemple, le rapport imagine des écouteurs dotés d’une technologie neuronale qui collectent des données utilisées pour cibler les publicités.

Ces technologies connaissent également une croissance dans les jeux et les divertissements, où certains jeux et drones sont déjà contrôlés par des dispositifs de lecture de l’activité cérébrale.