Qui tenir pour responsable lorsqu'une IA vous fait perdre votre fortune en bourse ?
Un investisseur poursuit en justice son gestionnaire de fonds

Le , par Bill Fassinou

52PARTAGES

11  0 
Les robots humanoïdes et les systèmes basés sur l’intelligence artificielle (IA) prolifèrent de plus en plus et intègrent davantage de couches dans la société. Que ce soit les IA présentateurs de journaux télévisés de la chaîne de télévision chinoise Xinhua News ou les systèmes de conduite autonome basés sur l’IA, cette technologie se développe très rapidement et s’intègre à toutes les sphères de la société notamment la santé, transport, le commerce, etc. Ces machines sont destinées à prendre des décisions plus rapidement et à être plus réactives que l’homme. En cela, les scientifiques sont le plus souvent confrontés à un dilemme lorsqu’il s’agit d’amputer la responsabilité à quelqu’un en cas de dommage impliquant une machine autonome.

Si les gens ne savent pas comment l'ordinateur prend ses décisions, qui est responsable quand les choses tournent mal ? Une question sur laquelle beaucoup appellent les autorités à réfléchir. D’après un cas que rapporte Bloomberg cette semaine, on découvre un investisseur qui poursuit un gestionnaire de fonds en justice pour pertes d’investissements causées par une machine d’intelligence artificielle. En effet, Samathur Li Kin-kan, un investisseur chinois a décidé de poursuivre en justice Raffaele Costa, un gestionnaire de fonds italien qui l'a convaincu de confier une partie de sa fortune à un superordinateur dénommé K1 dont les transactions lui ont coûté plus de 20 millions de dollars.

Raffaele Costa


Développé par la société d'intelligence artificielle 42.cx, basée en Autriche, le supercalculateur nommé K1 a pour but d’explorer des sources en ligne telles que les nouvelles en temps réel et les médias sociaux, afin d'évaluer le sentiment des investisseurs et de prédire l'avenir des actions américaines. Il enverrait ensuite des instructions à un courtier pour exécuter des opérations, ajustant sa stratégie au fil du temps en fonction de ses connaissances. Expliqué ainsi, rapporte Bloomberg, l'idée d'un gestionnaire de fonds entièrement automatisé a immédiatement inspiré Li et il aurait déclaré à Costa dans un courrier électronique qu’une gestion des fonds avec une IA “est exactement ce qu’il recherchait”.

Selon Bloomberg, Costa, le gestionnaire et détenteur de l’IA aurait partagé avec Li des simulations montrant que K1 obtenait des rendements à deux chiffres, bien que les deux contestent maintenant la minutie des tests antérieurs. Ces tests ont motivé Li a confié son argent à K1, le gestionnaire basé sur une intelligence artificielle. Li a laissé K1 gérer 2,5 milliards de dollars, soit 250 millions de dollars de son propre argent et le reste de l'effet de levier d’une entreprise dénommée Citigroup Inc. Le plan consistait à doubler ce montant avec le temps. Mais, à en croire le quotidien américain, les choses ne se sont pas passées comme prévu, car le chinois Li a subi des pertes consécutives d’une valeur avoisinant les 23 millions de dollars.

À ce propos, Bloomberg a écrit que Li poursuit maintenant Tyndaris pour environ 23 millions de dollars pour avoir prétendument exagéré ce que le superordinateur pourrait faire. Les avocats de Li soutiennent que Costa avait gagné sa confiance en mettant en exergue les qualifications des techniciens qui construisaient l'algorithme de K1. Ils affirment, par exemple, qu'ils étaient impliqués dans Deep Blue, l'ordinateur conçu par IBM Corp pour jouer aux échecs, marquant ainsi le début de l'ère de l'intelligence artificielle. Face à ces spéculations, le fondateur de 42.cx, Daniel Mattes a déclaré qu'aucun des informaticiens qui le conseillent n'est impliqué dans Deep Blue, mais l'un d'entre eux, Vladimir Arlazarov, a développé un programme d'échecs des années 1960 en Union soviétique, appelé Kaissa.

Dans le même temps, les avocats de Tyndaris Investment, le fonds d’investissement géré par Costa, poursuivent en retour Li en justice pour 3 millions de dollars d'impayés et nient l’allégation selon laquelle Costa aurait surexploité les capacités de K1. Ils disent qu'il n'a jamais été assuré que la stratégie d'IA gagnerait de l'argent. Pour sa part, Mark Lemley, professeur de droit à l'Université de Stanford, qui dirige le programme de droit, science et technologie de l'université, estime que les gens ont tendance à croire que les algorithmes sont des décideurs plus rapides et meilleurs que les traders humains. « C'est peut-être souvent vrai, mais quand ce n'est pas le cas ou quand ils s'égarent rapidement, les investisseurs veulent que quelqu'un leur soit blâmé », a-t-il déclaré. Selon lui, c’est la raison pour laquelle Li porte plainte contre Costa.

Cela dit, le problème de responsabilité se pose toujours. Lorsque les décisions prises par l’IA causent des dommages, qui doit être tenu responsable, le concepteur ou la machine elle-même ? Dans ce sillage, il serait bien de rappeler qu’Uber, l’un des plus grands constructeurs de voitures autonomes dans le monde s’est vu acquitter cette année de toute responsabilité dans un accident mortel qui a impliqué l’une de ses voitures autonomes. L’accident a lieu en mars 2018 où une voiture autonome de la firme Uber a heurté mortellement une femme âgée de 49 dans la ville de Tempe dans l'Arizona alors qu’elle traversait en dehors d’un passage piéton.

Selon un rapport préliminaire à l’enquête du NTSB (National Transportation Safety Board), pendant les six secondes qui ont précédé l'impact, le système de conduite autonome a classé le piéton en tant qu'objet inconnu, puis en tant que véhicule, puis en tant que bicyclette. Bien que le système ait identifié la nécessité d'une manœuvre de freinage d'urgence pour atténuer une collision, le système a été configuré pour ne pas activer le freinage d'urgence lorsqu'il est piloté par l'ordinateur. En fait, le système de la voiture est conçu de manière à ce que les manœuvres d’urgence soient à la charge de l'opérateur humain. Mais à l’issue du procès, aucune faute n’a été retenue contre Uber.

Pour ce cas, Bloomberg a rapporté qu’en février 2018, K1 a passé une commande auprès de son courtier, Goldman Sachs Group Inc., pour 1,5 milliard de dollars de contrats à terme standardisés sur l'indice S&P 500, prévoyant un gain éventuel de l'indice. Les chiffres ont montré que l'inflation aux États-Unis avait augmenté plus rapidement que prévu, entraînant la perte de 1,4% de K1 en stop-loss et laissant le fonds moins riche de 20,5 millions de dollars. Mais le S&P a rebondi en quelques heures, un argument avancé par les avocats de Li montrant que le seuil d'arrêt de K1 pour la journée était « brutal et inapproprié ».

Ainsi, Li a affirmé avoir appris que K1 utiliserait chaque jour sa propre « capacité d'apprentissage en profondeur » pour déterminer un stop-loss approprié en fonction des facteurs du marché comme la volatilité. Néanmoins, Costa et les siens ont nié avoir dit cela et affirment avoir dit à Li que le niveau serait fixé par les humains. Sur ce fait, Mattes a expliqué que K1 n'était pas conçu pour décider d'arrêter des pertes, mais uniquement pour générer deux types de signaux de sentiment : un signal général que Tyndaris aurait pu utiliser pour entrer dans une position et un autre pour lequel il aurait pu être dynamique de sortir ou changer de position. La société de gestion de capitaux n’a pas voulu apporter de commentaires lorsqu’il lui a été demandé si les fonds que K1 gère pour d’autres investisseurs ont déjà rapporté des gains.

Il s’agit en effet de la première affaire de justice pour pertes d’investissements causées par une machine autonome. « Nous ne pouvons pas juger les codes. Pour nous, cela revient ensuite à juger des installations et de la capacité de recherche », a déclaré Storr, qui a décidé d'investir dans des fonds de couverture pour le compte de Feri Trust GmbH, basé à Bad Homburg, en Allemagne. Mais que se passe-t-il lorsque des entreprises utilisent des chatbots autonomes pour vendre des produits à leurs clients ? Même poursuivre le vendeur peut ne pas être possible, a déclaré Karishma Paroha, une avocate de Kennedys basée à Londres et spécialisée dans la responsabilité du fait des produits. « La fausse déclaration concerne ce qu'une personne vous a dite », a-t-elle déclaré. Alors, par quelle manière résoudre ce dilemme ?

Source : Bloomberg

Et vous ?

Qu'en pensez-vous ?
Qui devrait être tenu pour responsable en cas de litige impliquant une IA, selon vous ? Pourquoi ?
Est ce qu'il s'agit bien d'une vrai IA ou d'un simple algo ?

Voir aussi

La responsabilité pénale d'Uber n'est pas engagée dans la mort de la femme fauchée par l'un de ses véhicules autonomes, selon une décision de justice

Accident Uber : l'opérateur à bord du véhicule suivait une émission TV sur son portable. La collision était entièrement évitable, selon la police

Une agence de presse chinoise a dévoilé sa première présentatrice TV virtuelle animée par l'IA, mais est-ce vraiment de l'IA ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Membre expert https://www.developpez.com
Le 15/05/2019 à 7:53
L'utilisateur de L'IA doit être tenu pour responsable puisque ce n'est qu'une aide à la décision sur laquelle on peut agir.
Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 15/05/2019 à 8:21
Justement, ça fait bien longtemps que dans le domaine de la bourse, l'IA n'est plus une simple aide à la décision. La grande majorité des transaction boursières sont aujourd'hui déclenchées sans intervention humaine par des IA qui comptent profiter de leur extrême réactivité.

Ceci dit le fait de passer par une IA ou non n'est qu'un détail. Un gestionnaire de fond est légalement tenu d'informer son client des risques du placement, quel qu'il soit. Si il a vendu son placement comme quelquechose de sûr, qu'il passe par une IA où non, il peut être tenu pour responsable. Si le client était convenablement averti des risques de la technologie, il n'a pas de raison légale de se plaindre. Ça sera au juge de juger si le client était convenablement informé. Ça n'a rien de différent des milliers d'affaire habituelles du même genre.
Avatar de sebastiano
Membre extrêmement actif https://www.developpez.com
Le 15/05/2019 à 8:47
Ca me fait toujours plaisir de voir des millionnaires/milliardaires perdre de la tune en bourse. Allez utiliser votre fric à des fins utiles...
Avatar de marsupial
Membre expert https://www.developpez.com
Le 15/05/2019 à 9:21
Tout à fait d'accord avec toi Uther, mais si je prends le pionnier Goldman Sachs, ils ont toujours 400 ingénieurs et 2 traders qui veillent au grain. Donc en cas de soucis, l'entreprise reste incriminable.
Avatar de Anselme45
Membre expérimenté https://www.developpez.com
Le 15/05/2019 à 9:27
Citation Envoyé par Uther Voir le message
Justement, ça fait bien longtemps que dans le domaine de la bourse, l'IA n'est plus une simple aide à la décision. La grande majorité des transaction boursières sont aujourd'hui déclenchées sans intervention humaine par des IA qui comptent profiter de leur extrême réactivité.
Oui une quantité astronomique de transactions boursières sont déclenchées automatiquement par des algorithmes, mais NON cela ne veut pas dire qu'il s'agisse d'IA (Affirmation de la part de Bloomberg) . Qui dit IA, dit que le système apprend de ses erreurs, qu'il établit lui-même des stratégies qu'il applique lui-même, etc...

Rien de cela dans l'immense majorité des cas dans les banques, il s'agit simplement de systèmes automatiques avec un humain qui donne des règles! La station d'épuration des eaux usées de votre région ou les feux de circulation de votre carrefour favori fonctionnent exactement avec les mêmes technologies
Avatar de Anselme45
Membre expérimenté https://www.developpez.com
Le 15/05/2019 à 9:31
Citation Envoyé par sebastiano Voir le message
Ca me fait toujours plaisir de voir des millionnaires/milliardaires perdre de la tune en bourse. Allez utiliser votre fric à des fins utiles...
A part que ce fric est dépensé à acheter des actions d'entreprises bien réelles qui te font vivre, que cela soit en t'allouant un salaire ou en permettant à ta caisse de retraite de financer tes vieux jours!
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 15/05/2019 à 9:53
Citation Envoyé par Uther Voir le message
Justement, ça fait bien longtemps que dans le domaine de la bourse, l'IA n'est plus une simple aide à la décision. La grande majorité des transaction boursières sont aujourd'hui déclenchées sans intervention humaine par des IA qui comptent profiter de leur extrême réactivité.
Comme le trading à haute fréquence.
Transactions à haute fréquence

Citation Envoyé par sebastiano Voir le message
Ca me fait toujours plaisir de voir des millionnaires/milliardaires perdre de la tune en bourse. Allez utiliser votre fric à des fins utiles...
Le problème c'est que les banques ont pris l'argent qu'il y avait sur votre livret A et sur votre assurance vie pour aller acheter des actions pourris (dette, etc).
Donc quand la bourse s’effondre ça nous retombe dessus.

Mais sinon ouais la bourse c'est comme un casino en pire.
Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 15/05/2019 à 9:53
Citation Envoyé par Anselme45 Voir le message
Il est déjà exaspérant de constater à longueur de journée que l'IA est mise à toutes les sauces par les média, mais constater que même sur un site comme developpez.com on croit voir de l'IA dans chaque recoin, cela en devient effrayant!

Oui une quantité astronomique de transactions boursières sont déclenchées automatiquement par des algorithmes, mais NON cela ne veut pas dire qu'il s'agisse d'IA. Qui dit IA, dit que le système apprend de ses erreurs, qu'il établit lui-même des stratégies qu'il applique lui-même, etc...
Attention, l'IA est une notion ancienne et vaste qui regroupe beaucoup de chose différentes.

Il y a beaucoup de type de logiciels nommés IA, certaines sont très centrées sur l'apprentissage, que l'on appelle le machine learning, alors que d'autre sont justes des algorithmes complexes qui simulent suffisamment bien l'humain dans la tache qu'on leur assigne comme dans les jeux-videos.
Avatar de Anselme45
Membre expérimenté https://www.developpez.com
Le 15/05/2019 à 10:14
Citation Envoyé par Uther Voir le message
Attention, l'IA est une notion ancienne et vaste qui regroupe beaucoup de chose différentes.

Il y a beaucoup de type de logiciels nommés IA, certaines sont très centrées sur l'apprentissage, que l'on appelle le machine learning, alors que d'autre sont justes des algorithmes complexes qui simulent suffisamment bien l'humain dans la tache qu'on leur assigne comme dans les jeux-videos.
Avec une telle définition de l'IA, la poupée des années 80 qui criait et pleurait quand l'enfant la retourner est de l'IA!
Avatar de sebastiano
Membre extrêmement actif https://www.developpez.com
Le 15/05/2019 à 10:54
Citation Envoyé par Anselme45 Voir le message
A part que ce fric est dépensé à acheter des actions d'entreprises bien réelles qui te font vivre, que cela soit en t'allouant un salaire ou en permettant à ta caisse de retraite de financer tes vieux jours!


Donc une entreprise ne se fait pas d'argent sur le code que je produis, mais grâce à des actions achetées en bourse.

Quant à ma caisse de retraite, je l'alimente déjà moi-même, merci !
Contacter le responsable de la rubrique Droit

Partenaire : Hébergement Web