SACRAMENTO – Le 29 août 1997 à 2 h 14, heure avancée de l’Est, Skynet – le système informatique militaire développé par Systèmes Cyberdyne – est devenu conscient de lui-même. Cela faisait moins d’un mois que l’armée américaine avait mis en place le système, mais son rythme d’apprentissage était rapide, puis effrayant. Alors que les responsables américains se précipitaient pour le fermer, le système a riposté et a lancé une guerre nucléaire qui a détruit l’humanité.
C’est le thème du “Terminator” films – un héritage d’Arnold Schwarzenegger qui surpasse ses réalisations en tant que gouverneur. Pour ceux qui ne les ont pas regardés, Schwarzenegger est revenu du futur pour tuer John Connor, l’humain qui dirigerait la résistance humaine. Dans “Terminator 2”, un Terminator reprogrammé revient pour protéger Connor d’un Terminator plus avancé. Dans “Terminator 3”, nous apprenons finalement que la résistance est futile.
Bien que l’heure exacte soit inconnue, le 30 novembre 2022, nos ordinateurs sont sans doute devenus conscients d’eux-mêmes – en tant qu’entreprise appelée OpenAI a lancé ChatGPT. C’est une boîte de discussion qui fournit des réponses remarquablement détaillées à nos questions. C’est le dernier exemple en date de l’Intelligence Artificielle : les systèmes informatiques écrivent des articles, développent des œuvres d’art, conduisent des voitures, écrivent de la poésie et jouent aux échecs. Ils semblent avoir leur propre esprit.
L’évolution rapide de l’intelligence artificielle (IA) La technologie peut être troublant, car il soulève des inquiétudes quant à la perte d’emplois et au contrôle sur la prise de décision. L’idée que les machines deviennent plus intelligentes que les humains, comme le montrent les films dystopiques, est une possibilité réaliste avec les capacités croissantes de l’IA. Le potentiel d’utilisation de l’IA à des fins malveillantes, telles que la surveillance ou la manipulation, ajoute encore au sentiment dystopique entourant la technologie.
Je dois mentionner que je n’ai pas écrit le paragraphe précédent. C’est le travail de ChatGPT. Malgré la voix passive dans la dernière phrase, c’est une série de phrases remarquablement bien conçues – mieux que le travail de certains journalistes que j’ai connus. La description montre la profondeur de la pensée et des nuances, et soulève une myriade de questions pratiques et éthiques. Je suis particulièrement préoccupé par ce dernier point, à propos des abus potentiels du gouvernement à des fins de surveillance.
Je ne suis pas un moderne luddite – une référence aux membres du début du 19e guildes textiles britanniques du siècle dernier qui ont détruit des métiers à tisser mécanisés dans une vaine tentative de protéger leurs emplois. Je célèbre les merveilles de l’économie de marché et “destruction créative,” alors que de brillantes avancées anéantissent les industries anciennes, inefficaces et incrustées (pensez à la façon dont Uber a secoué l’industrie du taxi). Mais l’IA amène ce processus à un nouveau niveau vertigineux.
Les soucis pratiques ne sont pas insurmontables. Certains de mes amis journalistes craignent que l’IA ne remplace leur emploi. Ce n’est pas comme si les boîtes de discussion allaient commencer à assister aux réunions du conseil municipal, bien que peu de journalistes le fassent rapports de détective ces jours-ci en tout cas. Les bibliothécaires, par exemple, s’inquiètent des questions d’attribution et de droits de propriété intellectuelle.
Sur ce dernier point, “Le US Copyright Office a rejeté une demande de laisser une IA copyrighter une œuvre d’art”, The Verge signalé. “Le conseil a constaté qu'(une) image créée par l’IA n’incluait pas d’élément de” paternité humaine “- une norme nécessaire, a-t-il déclaré, pour la protection.” La loi sur le droit d’auteur se développera sans aucun doute pour répondre à ces questions épineuses.
Ces technologies se traduisent déjà par des progrès qui améliorent la vie. Notre Volkswagen de milieu de gamme maintient la voiture dans les voies et a même déclenché un freinage d’urgence, ce qui m’a récemment sauvé d’une cintreuse d’aile. ChatGPT pourrait simplement devenir une version avancée de Google. Les compagnie dit que sa “mission est de veiller à ce que l’intelligence générale artificielle profite à toute l’humanité”. Pensez aux possibilités, par exemple, dans le domaine médical.
Là encore, je suis sûr que Cyberdyne Systems avait les meilleures intentions. Voici ce qui suscite le plus d’inquiétude : Avec la plupart des technologies de pointe, les concepteurs savent à quoi serviront leurs inventions. Une automobile ou un système informatique moderne semblerait magique à quelqu’un du passé, mais ils sont prévisibles bien que compliqués. Il s’agit simplement d’expliquer comment un piston se déclenche ou un code informatique conduit à un résultat apparemment inexplicable, mais tout à fait compréhensible.
Mais l’IA a une véritable qualité magique en raison de son “incompréhensibilité”, John Herrman du magazine new-yorkais c’est noté. “Les entreprises qui fabriquent ces outils pourraient décrire comment ils ont été conçus… (b) mais elles ne pourraient pas révéler exactement comment un générateur d’images est né des mots chien violet à une image spécifique d’un grand Labrador mauve, non pas parce qu’ils ne le voulaient pas, mais parce que ce n’était pas possible – leurs modèles étaient des boîtes noires de par leur conception.
Bien sûr, tous les efforts du gouvernement pour contrôler cette technologie seront aussi fructueux que les efforts pour fermer Skynet. La posture politique motive les législateurs plus que toute connaissance technologique approfondie. Le système politique aura toujours plusieurs pas de retard sur toute technologie. Les politiciens et les régulateurs savent rarement quoi faire de toute façon, bien que je sois pour des limites strictes sur l’utilisation de l’IA par le gouvernement. (Bonne chance, non ?)
Les écrivains ont plaisanté pendant des années sur le moment où Skynet deviendra conscient de lui-même, mais je vous laisse avec cette question : si l’IA est aussi bonne maintenant, à quoi ressemblera-t-elle dans quelques années ?
Steven Greenhut est directeur de la région Ouest du R Street Institute et membre du comité de rédaction du Southern California News Group. Écrivez-lui à sgreenhut@rstreet.org.