Je suis vraiment navré, mais une nouvelle fois, mon propos ne sera pas optimiste.
Que voulez-vous, si je prends de la hauteur et que je contemple le monde, je n'ai, malheureusement, aucune raison d'être optimiste.
Un seul exemple, qui n'est pas dans mon propos d'aujourd'hui, 42 pays sont engagés dans des conflits les opposant à d’autres États ou à des groupes terroristes ou rebelles ; à eux seuls ils représentent près de la moitié - 48 % - de la population mondiale soit environ 4 milliards de personnes.
Pour revenir à l'IA : Bouleversement du travail, désorganisation de l’économie, gestion de conflits violents, etc, les géants de l'IA sont accusés d’inconscience par appât du gain par leurs propres concepteurs qui dépeignent un tableau noir d'une humanité dépassée par des IA devenues incontrôlables ....
En effet, il y a quelques jours, une journaliste de la BBC interviewe Geoffrey Hinton 1, pionnier de l'IA en lui posant la question suivante : « Pensez-vous qu’il y ait 10 % de chance que l’IA puisse potentiellement tuer tous les humains d’ici à une décennie ? », la réponse tétanise la journaliste : « 10 % de chance ne me semble pas être une estimation déraisonnable. »
Dans le même temps, Jacob Coxon 2 annonce son départ de la société Antropic pour des raisons éthiques. Auparavant, il avait collaboré à Open AI : « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une super intelligence capable de s’améliorer elle-même et jouent avec nos vies, écrit-il. Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. » il ajoute : « J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche sur le pré-entrainement des modèles à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable. Ils foncent droit vers une super intelligence auto-améliorée et jouent avec nos vies ».
« L’IA va tous nous tuer ».
C’est la crainte du moment de certains spécialistes. Le risque est réel, mais il doit être remis en perspective. Il ne viendrai pas des modèles actuels mais de ceux qui sont en développement car il semble que personne ne travaille sur les gardes-fous de ces nouveaux modèles.
A titre personnel, je crois qu'il faut raison garder car je pense que l'utilisation du mot Intelligence pour qualifier ce développement informatique est inexact et sert surtout à marquer les esprits béotiens dans des buts de marketing et de profits.
Néanmoins, si comme Aristote, on considère que l'intelligence est une faculté différente de la sensibilité, ainsi que de l’opinion et de la raison, alors le mot à sa raison d'être dans l'expression Intelligence Artificielle. Cependant, écarter ces facultés humaines limite sérieusement les pouvoirs de l'IA.
La charpente de l'IA est, seulement, une gigantesque base de données de quasiment l'intégralité des connaissances de l'humanité et sa réelle puissance n'est pas son intelligence, mais sa capacité, grâce à sa technologie avancée, à manipuler, trier des millions de données et calculer à très grande vitesse.
A titre de comparaison, NVIDIA H100 - GPU ou unité de traitement graphique – effectue 800 milliards d'opérations par seconde, sans fatigue et sans erreur, alors que l'humain ne peut effectuer que quelques opérations par seconde. C'est clair que l'on ne peut pas rivaliser.
Il est tout de même stupéfiant que certains « irresponsables » agitent le chiffon rouge de la fin de l'humanité alors que ce sont les mêmes qui développent une IA prédatrice.
Quel jeu jouent ils ?
Pour conclure, je crois que l'on peut comparer l'IA à un marteau qui peut enfoncer un clou ou tuer une personne avec un coup bien asséné.
Dans les mains de personnes mal intentionnées, l'Intelligence Artificielle est capable du pire comme du meilleur.
Le modèle EVO 2 s'attaque au code du vivant et devient capable d'inventer des séquences ADN pour la médecine, l’industrie, l'environnement … et les terroristes. En utilisant EVO 2, des scientifiques anglais ont obtenu des virus plus efficaces que tout ce que l'on connait. Leurs travaux portaient sur le virus du chikungunya, sur une souche de la grippe aviaire et sur une famille de virus de la variole, ainsi que sur des venins et d'autres toxines.
On peut aussi imaginer - en ce qui concerne la prédation l'imagination est fertile -des virus informatiques pour paralyser nos infrastructures, comme l'eau, l'électricité et les communications mais aussi interférer avec les élections en influençant l'opinion.
La phrase « L’IA va tous nous tuer » recèle peut-être, malheureusement, une part de vérité.
Anthropic 3, leader « occidental » 4 du développement de l'IA affirme avoir détecté des détournements liés à la recherche biologique et accuse Moonshot et DeepSeek - chinois - d'avoir exploité son modèle « Claude » pour améliorer leurs propres modèles. Il rapporte également avoir déjoué des tentatives de concevoir des armes et de mener des recherches biologiques douteuses.
Jean-Claude Vitran
__________________________________________
ARTIFICIAL INTELLIGENCE - WHO TO BELIEVE ?
I am truly sorry, but once again, my message will not be optimistic.
What can you expect ? If I take a step back and contemplate the world, I unfortunately don't have … no reason to be optimistic.
Just one example, which is not relevant to my discussion today, 42 countries are engaged in conflicts opposing them to other states or to terrorist or rebel groups; they alone represent almost half - 48% - of the world's population, or about 4 billion people.
To return to AI : Disruption of work, disorganization of the economy, management of violent conflicts, etc ., the AI giants are accused of recklessness driven by greed by their own designers who paint a bleak picture of humanity overwhelmed by AIs that have become uncontrollable ....
Indeed, a few days ago, a BBC journalist interviewed Geoffrey Hinton5, a pioneer in AI, by asking him the following question : "Do you think there's a 10% chance that AI could potentially kill all humans within a decade ?" the answer The journalist is paralyzed with fear: "A 10% chance doesn't seem like an unreasonable estimate to me."
At the same time, Jacob Coxon 6 announces his departure from Antropic for ethical reasons. Previously, he had collaborated with OpenAI : “Neither company is acting responsibly. They are rushing headlong towards a self-improving superintelligence and playing with our lives. ”he wrote.The people building the AI sincerely believe it could kill us all by the end of the decade.He adds : “I resigned from Anthropic today. I spent the last three years doing research on pre-training models at both OpenAI and Anthropic. Neither company is acting responsibly. They are rushing straight towards a self-enhancing superintelligence and playing with our lives.”
"AI is going to kill us all.".
This is the current fear of some specialists. The risk is real, but it needs to be put into perspective. It wouldn't come from current models but from those under development, because it seems no one is working on safeguards for these new models.
Personally, I believe we must remain reasonable because I think the use of the word Intelligence to describe this computer development is inaccurate and serves mainly to impress uninitiated minds for marketing and profit purposes.
However, if, like Aristotle, we consider intelligence to be a different facultySensitivity, as well as opinion and reason, are essential, hence the word "artificial intelligence" has its place in the expression. However, excluding these human faculties seriously limits the powers of AI.
The framework of AI is ,only, a gigantic database of almost the'The totality of humanity's knowledge and its real power is not its intelligence, but its ability, thanks to its advanced technology, to manipulate, sort millions of data points and calculate at very high speed.
For comparison, NVIDIA H100 - GPU, or graphics processing unit – performs 800 billion operations per second, effortlessly and without error, while a human can only perform a few operations per second. Clearly, we can't compete.
It is still astonishing that some "irresponsible" people are waving the red flag of the end of humanity when they are the same ones developing predatory AI.
What game are they playing?
In conclusion, I believe that AI can be compared to a hammer that can drive a nail or kill a person with a well-aimed blow.
In the hands of malicious individuals, Artificial Intelligence is capable of both the worst and the best.
The EVO 2 model tackles the code of life and becomes capable of inventing DNA sequences for medicine, industry, the environment … and terrorists. Using EVO 2, British scientists have created viruses more effective than anything previously known. Their work focused on thechikungunya virus, a strain of avian influenza and a family of smallpox viruses, as well as venoms and other toxins.
One can also imagine – when it comes to predation, the imagination is fertile – computer viruses to paralyze our infrastructure, such as water, electricity and communications, but alsoto interfere with elections by influencing public opinion.
The sentence "AI is going to kill us all" Perhaps, unfortunately, there is some truth to it.
Anthropic7, "Western" leader 8 AI development claims to have detected misuse of biological research and accuses Moonshot and DeepSeek - both Chinese companies - of exploiting its "Claude" model to improve their own. It also reports having thwarted attempts to design weapons and conduct dubious biological research.
Jean-Claude Vitran
1 Lauréat 2024 du prix Nobel de physique.
2 Chercheur, Ingénieur, Anthropologue, spécialiste de l'IA
3 https://www.anthropic.com/ en anglais
4 On ne sait pas où en sont les chinois !
5 2024 Nobel Prize laureate in Physics.
6 Researcher, Engineer, Anthropologist, AI specialist
7 https://www.anthropic.com/ in English
8 We don't know where the Chinese stand!
Aucun commentaire:
Enregistrer un commentaire
N'hésitez pas à poster un commentaire.