Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Qui tenir pour responsable lorsqu'une IA vous fait perdre votre fortune en bourse ?
Un investisseur poursuit en justice son gestionnaire de fonds

Le , par Bill Fassinou

99PARTAGES

11  0 
Les robots humanoïdes et les systèmes basés sur l’intelligence artificielle (IA) prolifèrent de plus en plus et intègrent davantage de couches dans la société. Que ce soit les IA présentateurs de journaux télévisés de la chaîne de télévision chinoise Xinhua News ou les systèmes de conduite autonome basés sur l’IA, cette technologie se développe très rapidement et s’intègre à toutes les sphères de la société notamment la santé, transport, le commerce, etc. Ces machines sont destinées à prendre des décisions plus rapidement et à être plus réactives que l’homme. En cela, les scientifiques sont le plus souvent confrontés à un dilemme lorsqu’il s’agit d’amputer la responsabilité à quelqu’un en cas de dommage impliquant une machine autonome.

Si les gens ne savent pas comment l'ordinateur prend ses décisions, qui est responsable quand les choses tournent mal ? Une question sur laquelle beaucoup appellent les autorités à réfléchir. D’après un cas que rapporte Bloomberg cette semaine, on découvre un investisseur qui poursuit un gestionnaire de fonds en justice pour pertes d’investissements causées par une machine d’intelligence artificielle. En effet, Samathur Li Kin-kan, un investisseur chinois a décidé de poursuivre en justice Raffaele Costa, un gestionnaire de fonds italien qui l'a convaincu de confier une partie de sa fortune à un superordinateur dénommé K1 dont les transactions lui ont coûté plus de 20 millions de dollars.

Raffaele Costa


Développé par la société d'intelligence artificielle 42.cx, basée en Autriche, le supercalculateur nommé K1 a pour but d’explorer des sources en ligne telles que les nouvelles en temps réel et les médias sociaux, afin d'évaluer le sentiment des investisseurs et de prédire l'avenir des actions américaines. Il enverrait ensuite des instructions à un courtier pour exécuter des opérations, ajustant sa stratégie au fil du temps en fonction de ses connaissances. Expliqué ainsi, rapporte Bloomberg, l'idée d'un gestionnaire de fonds entièrement automatisé a immédiatement inspiré Li et il aurait déclaré à Costa dans un courrier électronique qu’une gestion des fonds avec une IA “est exactement ce qu’il recherchait”.

Selon Bloomberg, Costa, le gestionnaire et détenteur de l’IA aurait partagé avec Li des simulations montrant que K1 obtenait des rendements à deux chiffres, bien que les deux contestent maintenant la minutie des tests antérieurs. Ces tests ont motivé Li a confié son argent à K1, le gestionnaire basé sur une intelligence artificielle. Li a laissé K1 gérer 2,5 milliards de dollars, soit 250 millions de dollars de son propre argent et le reste de l'effet de levier d’une entreprise dénommée Citigroup Inc. Le plan consistait à doubler ce montant avec le temps. Mais, à en croire le quotidien américain, les choses ne se sont pas passées comme prévu, car le chinois Li a subi des pertes consécutives d’une valeur avoisinant les 23 millions de dollars.

À ce propos, Bloomberg a écrit que Li poursuit maintenant Tyndaris pour environ 23 millions de dollars pour avoir prétendument exagéré ce que le superordinateur pourrait faire. Les avocats de Li soutiennent que Costa avait gagné sa confiance en mettant en exergue les qualifications des techniciens qui construisaient l'algorithme de K1. Ils affirment, par exemple, qu'ils étaient impliqués dans Deep Blue, l'ordinateur conçu par IBM Corp pour jouer aux échecs, marquant ainsi le début de l'ère de l'intelligence artificielle. Face à ces spéculations, le fondateur de 42.cx, Daniel Mattes a déclaré qu'aucun des informaticiens qui le conseillent n'est impliqué dans Deep Blue, mais l'un d'entre eux, Vladimir Arlazarov, a développé un programme d'échecs des années 1960 en Union soviétique, appelé Kaissa.

Dans le même temps, les avocats de Tyndaris Investment, le fonds d’investissement géré par Costa, poursuivent en retour Li en justice pour 3 millions de dollars d'impayés et nient l’allégation selon laquelle Costa aurait surexploité les capacités de K1. Ils disent qu'il n'a jamais été assuré que la stratégie d'IA gagnerait de l'argent. Pour sa part, Mark Lemley, professeur de droit à l'Université de Stanford, qui dirige le programme de droit, science et technologie de l'université, estime que les gens ont tendance à croire que les algorithmes sont des décideurs plus rapides et meilleurs que les traders humains. « C'est peut-être souvent vrai, mais quand ce n'est pas le cas ou quand ils s'égarent rapidement, les investisseurs veulent que quelqu'un leur soit blâmé », a-t-il déclaré. Selon lui, c’est la raison pour laquelle Li porte plainte contre Costa.

Cela dit, le problème de responsabilité se pose toujours. Lorsque les décisions prises par l’IA causent des dommages, qui doit être tenu responsable, le concepteur ou la machine elle-même ? Dans ce sillage, il serait bien de rappeler qu’Uber, l’un des plus grands constructeurs de voitures autonomes dans le monde s’est vu acquitter cette année de toute responsabilité dans un accident mortel qui a impliqué l’une de ses voitures autonomes. L’accident a lieu en mars 2018 où une voiture autonome de la firme Uber a heurté mortellement une femme âgée de 49 dans la ville de Tempe dans l'Arizona alors qu’elle traversait en dehors d’un passage piéton.

Selon un rapport préliminaire à l’enquête du NTSB (National Transportation Safety Board), pendant les six secondes qui ont précédé l'impact, le système de conduite autonome a classé le piéton en tant qu'objet inconnu, puis en tant que véhicule, puis en tant que bicyclette. Bien que le système ait identifié la nécessité d'une manœuvre de freinage d'urgence pour atténuer une collision, le système a été configuré pour ne pas activer le freinage d'urgence lorsqu'il est piloté par l'ordinateur. En fait, le système de la voiture est conçu de manière à ce que les manœuvres d’urgence soient à la charge de l'opérateur humain. Mais à l’issue du procès, aucune faute n’a été retenue contre Uber.

Pour ce cas, Bloomberg a rapporté qu’en février 2018, K1 a passé une commande auprès de son courtier, Goldman Sachs Group Inc., pour 1,5 milliard de dollars de contrats à terme standardisés sur l'indice S&P 500, prévoyant un gain éventuel de l'indice. Les chiffres ont montré que l'inflation aux États-Unis avait augmenté plus rapidement que prévu, entraînant la perte de 1,4% de K1 en stop-loss et laissant le fonds moins riche de 20,5 millions de dollars. Mais le S&P a rebondi en quelques heures, un argument avancé par les avocats de Li montrant que le seuil d'arrêt de K1 pour la journée était « brutal et inapproprié ».

Ainsi, Li a affirmé avoir appris que K1 utiliserait chaque jour sa propre « capacité d'apprentissage en profondeur » pour déterminer un stop-loss approprié en fonction des facteurs du marché comme la volatilité. Néanmoins, Costa et les siens ont nié avoir dit cela et affirment avoir dit à Li que le niveau serait fixé par les humains. Sur ce fait, Mattes a expliqué que K1 n'était pas conçu pour décider d'arrêter des pertes, mais uniquement pour générer deux types de signaux de sentiment : un signal général que Tyndaris aurait pu utiliser pour entrer dans une position et un autre pour lequel il aurait pu être dynamique de sortir ou changer de position. La société de gestion de capitaux n’a pas voulu apporter de commentaires lorsqu’il lui a été demandé si les fonds que K1 gère pour d’autres investisseurs ont déjà rapporté des gains.

Il s’agit en effet de la première affaire de justice pour pertes d’investissements causées par une machine autonome. « Nous ne pouvons pas juger les codes. Pour nous, cela revient ensuite à juger des installations et de la capacité de recherche », a déclaré Storr, qui a décidé d'investir dans des fonds de couverture pour le compte de Feri Trust GmbH, basé à Bad Homburg, en Allemagne. Mais que se passe-t-il lorsque des entreprises utilisent des chatbots autonomes pour vendre des produits à leurs clients ? Même poursuivre le vendeur peut ne pas être possible, a déclaré Karishma Paroha, une avocate de Kennedys basée à Londres et spécialisée dans la responsabilité du fait des produits. « La fausse déclaration concerne ce qu'une personne vous a dite », a-t-elle déclaré. Alors, par quelle manière résoudre ce dilemme ?

Source : Bloomberg

Et vous ?

Qu'en pensez-vous ?
Qui devrait être tenu pour responsable en cas de litige impliquant une IA, selon vous ? Pourquoi ?
Est ce qu'il s'agit bien d'une vrai IA ou d'un simple algo ?

Voir aussi

La responsabilité pénale d'Uber n'est pas engagée dans la mort de la femme fauchée par l'un de ses véhicules autonomes, selon une décision de justice

Accident Uber : l'opérateur à bord du véhicule suivait une émission TV sur son portable. La collision était entièrement évitable, selon la police

Une agence de presse chinoise a dévoilé sa première présentatrice TV virtuelle animée par l'IA, mais est-ce vraiment de l'IA ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 15/05/2019 à 8:21
Justement, ça fait bien longtemps que dans le domaine de la bourse, l'IA n'est plus une simple aide à la décision. La grande majorité des transaction boursières sont aujourd'hui déclenchées sans intervention humaine par des IA qui comptent profiter de leur extrême réactivité.

Ceci dit le fait de passer par une IA ou non n'est qu'un détail. Un gestionnaire de fond est légalement tenu d'informer son client des risques du placement, quel qu'il soit. Si il a vendu son placement comme quelquechose de sûr, qu'il passe par une IA où non, il peut être tenu pour responsable. Si le client était convenablement averti des risques de la technologie, il n'a pas de raison légale de se plaindre. Ça sera au juge de juger si le client était convenablement informé. Ça n'a rien de différent des milliers d'affaire habituelles du même genre.
8  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 15/05/2019 à 9:27
Citation Envoyé par Uther Voir le message
Justement, ça fait bien longtemps que dans le domaine de la bourse, l'IA n'est plus une simple aide à la décision. La grande majorité des transaction boursières sont aujourd'hui déclenchées sans intervention humaine par des IA qui comptent profiter de leur extrême réactivité.
Oui une quantité astronomique de transactions boursières sont déclenchées automatiquement par des algorithmes, mais NON cela ne veut pas dire qu'il s'agisse d'IA (Affirmation de la part de Bloomberg) . Qui dit IA, dit que le système apprend de ses erreurs, qu'il établit lui-même des stratégies qu'il applique lui-même, etc...

Rien de cela dans l'immense majorité des cas dans les banques, il s'agit simplement de systèmes automatiques avec un humain qui donne des règles! La station d'épuration des eaux usées de votre région ou les feux de circulation de votre carrefour favori fonctionnent exactement avec les mêmes technologies
7  0 
Avatar de Uther
Expert éminent sénior https://www.developpez.com
Le 15/05/2019 à 9:53
Citation Envoyé par Anselme45 Voir le message
Il est déjà exaspérant de constater à longueur de journée que l'IA est mise à toutes les sauces par les média, mais constater que même sur un site comme developpez.com on croit voir de l'IA dans chaque recoin, cela en devient effrayant!

Oui une quantité astronomique de transactions boursières sont déclenchées automatiquement par des algorithmes, mais NON cela ne veut pas dire qu'il s'agisse d'IA. Qui dit IA, dit que le système apprend de ses erreurs, qu'il établit lui-même des stratégies qu'il applique lui-même, etc...
Attention, l'IA est une notion ancienne et vaste qui regroupe beaucoup de chose différentes.

Il y a beaucoup de type de logiciels nommés IA, certaines sont très centrées sur l'apprentissage, que l'on appelle le machine learning, alors que d'autre sont justes des algorithmes complexes qui simulent suffisamment bien l'humain dans la tache qu'on leur assigne comme dans les jeux-videos.
4  0 
Avatar de Pod44v2
Membre actif https://www.developpez.com
Le 15/05/2019 à 14:10
Citation Envoyé par yoyo3d Voir le message

Citation Envoyé par Matthieu76 Voir le message
23 millions sur 2.5 Milliards c'est même pas 1%
sauf erreur de ma part, c'est plus prêt des 10% ... on vas mettre ça sur le coup de la digestion, et que c'est bientôt la fin de semaine...tout ça tout ça... pfou... on est tous crevés...
Non non c'est bien 1%, même 0,92%
4  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 15/05/2019 à 13:39
Citation Envoyé par Anselme45 Voir le message
Il est déjà exaspérant de constater à longueur de journée que l'IA est mise à toutes les sauces par les média
Peut-être que c'est vous qui vous trompez.
Peut-être qu'il est correct de considérer certains algorithmes comme étant de l'Intelligence Artificielle.

L'intelligence artificielle depuis 1993 - Verrous qui sautent et loi de Moore
Le 11 mai 1997, Deep Blue est devenu le premier système informatique de jeu d'échecs à battre le champion du monde en titre, Garry Kasparov. En 2005, un robot de Stanford a remporté le DARPA Grand Challenge en conduisant de manière autonome pendant 131 milles sur une piste de désert sans avoir fait de reconnaissance préalable. Deux ans plus tard, une équipe de Carnegie-Mellon remporte le DARPA Urban Challenge, cette fois en naviguant en autonome pendant 55 milles dans un environnement urbain tout en respectant les conditions de trafic et le code de la route. En février 2011, dans un match de démonstration du jeu télévisé Jeopardy!, les deux plus grands champions de Jeopardy!, Brad Rutter et Ken Jennings ont été battus avec une marge confortable par le système de questions-réponses conçu par IBM, au centre de recherche Watson.

Ces succès ne reposent pas sur de nouveaux paradigmes révolutionnaires, mais sur une application minutieuse des techniques d'ingénierie et sur la puissance phénoménale des ordinateurs. En effet, la machine Deep Blue est 10 millions de fois plus rapide que la Ferranti Mark I à qui Christopher Strachey a appris à jouer aux échecs en 1951. Cette augmentation spectaculaire suit la loi de Moore, qui prédit que la vitesse et la capacité de mémoire des ordinateurs doublent tous les deux ans. N'est-on pas en train de faire sauter le verrou de la « puissance informatique » ?
Intelligence artificielle dans le jeu vidéo
Dans le domaine du jeu vidéo, l'intelligence artificielle est utilisé pour proposer une expérience de jeu de qualité, par exemple en conférant aux personnages non-joueurs un comportement s'approchant de celui de l'être humain, ou en limitant les compétences du programme afin de donner au joueur un sentiment d'équité.
Quelque part Blinky, Pinky, Inky et Clyde (les fantômes de Pac Man) sont des IA.

"Intelligence Artificielle" est un vieux terme qui correspond à plein de choses.
Il faut inventer un nouveau terme pour certaines futurs formes d'IA.
3  0 
Avatar de vxlan.is.top
Membre éprouvé https://www.developpez.com
Le 15/05/2019 à 15:17
Citation Envoyé par sergio_is_back Voir le message
C'est du trading haute fréquence... Plus personne de censé n'y comprend d'ailleurs rien... Les algos se vendent et se rachètent des actions les uns les autres selon des modèles statistiques de plus en plus complexes en quelques dizaines de micro-secondes... T'a même pas eu le temps de voir les ordres d'achat et de vente...
Jusqu'à une certaine époque, je voyais régulièrement des offres d'emploi de la SocGen en recherche de spécialistes des théories du chaos
Si c'est pas jouer à l'apprenti sorcier ça...

-VX
3  0 
Avatar de sergio_is_back
Membre émérite https://www.developpez.com
Le 15/05/2019 à 16:30
Citation Envoyé par MiaowZedong Voir le message
Une IA forte, de par sa définition, est un acteur moral au même titre qu'un être humain. À partir de là, si d'aventure il existait une IA forte et que la loi ne la traitait pas en tant que telle, ce serait parce que la loi est dépassée.
Je prendrai bien garde de ne pas m'avancer autant...
Surtout en l'absence d'IA forte à ce jour... Et en absence de jurisprudence sur la question... Toutes les affirmations de ce genre ne sont aujourd'hui que supputations !
3  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 15/05/2019 à 7:53
L'utilisateur de L'IA doit être tenu pour responsable puisque ce n'est qu'une aide à la décision sur laquelle on peut agir.
2  0 
Avatar de sergio_is_back
Membre émérite https://www.developpez.com
Le 15/05/2019 à 13:12
Citation Envoyé par Anselme45 Voir le message

Oui une quantité astronomique de transactions boursières sont déclenchées automatiquement par des algorithmes, mais NON cela ne veut pas dire qu'il s'agisse d'IA. Qui dit IA, dit que le système apprend de ses erreurs, qu'il établit lui-même des stratégies qu'il applique lui-même, etc...
C'est du trading haute fréquence... Plus personne de censé n'y comprend d'ailleurs rien... Les algos se vendent et se rachètent des actions les uns les autres selon des modèles statistiques de plus en plus complexes en quelques dizaines de micro-secondes... T'a même pas eu le temps de voir les ordres d'achat et de vente...

Citation Envoyé par Anselme45 Voir le message

Rien de cela dans l'immense majorité des cas dans les banques, il s'agit simplement de systèmes automatiques avec un humain qui donne des règles! La station d'épuration des eaux usées de votre région ou les feux de circulation de votre carrefour favori fonctionnent exactement avec les mêmes technologies
Encore faut-il que les règles soient correctement définies et que les algos sont exempts de bugs, ce qui n'est toujours le cas...
2  0 
Avatar de yoyo3d
Membre éclairé https://www.developpez.com
Le 15/05/2019 à 14:58
oups c'est bien ce que je disais...la faute à la digestion...
2  0