Rebecca Hinds (00:00)

Bienvenue dans Intelligence Real and Imagined, du Work AI Institute chez Glean.

‍

Rebecca Hinds (00:05)

C’est l’émission où nous faisons le tri entre ce qui est réel, ce qui relève du battage médiatique et ce qui fonctionne vraiment avec l’IA au travail.

‍

Rebecca Hinds (00:12)

Dans cet épisode, nous explorons comment l’IA commence à exercer une véritable pression sur la conception organisationnelle, comment les équipes se restructurent autour de l’IA, comment la prise de décision et la responsabilité évoluent lorsque le travail s’accélère, et quels nouveaux modèles économiques pourraient remplacer l’ancien playbook du SaaS.

‍

Rebecca Hinds (00:33)

Notre invité aujourd’hui est James Cham, associé fondateur de Bloomberg Beta, le fonds de capital-risque de Bloomberg.

‍

Rebecca Hinds (00:39)

Il a consacré sa carrière à soutenir et à étudier la façon dont les nouvelles technologies transforment les équipes, les produits et les modèles économiques.

‍

Rebecca Hinds (00:48)

Et il est aux premières loges pour observer comment l’IA change ce qui se construit, qui le construit et comment le travail s’organise.

‍

Rebecca Hinds (00:57)

Comme toujours, je suis également accompagnée de mon co-animateur, Bob Sutton, Professeur émérite à Stanford et l’un des membres fondateurs du Work AI Institute.

‍

Rebecca Hinds (01:06)

Je suis vraiment ravie de cette conversation, alors plongeons sans plus attendre.

‍

Bob Sutton (01:14)

La question de ce à quoi une organisation est censée ressembler.

‍

Bob Sutton (01:16)

En fait, je ne pense pas avoir déjà été confus à ce sujet, mais je crois que je suis confus.

‍

James Cham (01:21)

Je suis sincère, au fait.

‍

James Cham (01:22)

Bien sûr, cela ne se produit qu’à la toute, toute, toute fin.

‍

James Cham (01:27)

Ils ne font que.

‍

James Cham (01:28)

Je passe mes journées à chercher ce type d’équipes, et j’en ai trouvé trois.

‍

James Cham (01:35)

Je passe littéralement mes journées à demander : « Vous avez entendu parler de quelqu’un qui fait ça ? »

‍

James Cham (01:38)

Et au final, vous n’en voyez que quelques-unes.

‍

James Cham (01:39)

Donc ce n’est pas une pratique courante.

‍

James Cham (01:42)

Pas encore.

‍

Rebecca Hinds (01:42)

Intéressant.

‍

Rebecca Hinds (01:44)

Est-ce que cette dynamique d’équipe pèse davantage dans votre décision d’investir aujourd’hui qu’auparavant ?

‍

James Cham (01:52)

Il y a presque une façon de voir les choses où, au fond, je me fiche un peu de ce que vous faites.

‍

James Cham (01:55)

Enfin, un peu.

‍

James Cham (01:56)

Si vous avez compris l’avenir, alors je travaillerai avec vous.

‍

James Cham (02:00)

On trouvera un business.

‍

James Cham (02:01)

Mais si vous avez compris comment.

‍

James Cham (02:03)

cette manière agressive de travailler, c’est ce que je passe tout mon temps à chercher.

‍

Bob Sutton (02:07)

OK, d’accord.

‍

Bob Sutton (02:08)

En fait, vous cherchez vraiment des cas atypiques.

‍

Rebecca Hinds (02:10)

Et si l’on pense à l’IA en entreprise en particulier, si vous deviez imaginer, disons, dans un an, dans deux ans, quel est le meilleur scénario possible de l’impact de l’IA sur nos organisations ?

‍

James Cham (02:23)

Donc, pour l’instant, je ne vois ça que dans quelques petits endroits, mais j’ai vraiment le sentiment qu’il existe aujourd’hui de petites équipes qui ont réellement compris comment utiliser les LLMs pour ce pour quoi ils sont les meilleurs.

‍

James Cham (02:36)

Je pense que ce n’est pas encore généralisé. Même aujourd’hui, je passe mes journées à chercher ça.

‍

James Cham (02:43)

Je passe mes journées à chercher des gens qui utilisent les LLMs de manière véritablement agressive, où ils ont retiré les personnes du processus autant que possible.

‍

James Cham (02:52)

Et ils ont compris comment utiliser les LLMs de façons dans lesquelles les LLMs sont bons, parce qu’ils sont mauvais sur beaucoup de choses.

‍

James Cham (02:58)

Toutes les critiques habituelles dont les gens se plaignent, elles sont totalement vraies.

‍

James Cham (03:02)

Mais en même temps, ils deviennent moins chers, ils deviennent plus efficaces sur certaines dimensions.

‍

James Cham (03:08)

Et puis les personnes qui voient l’avenir et qui sont capables d’adapter leur manière de travailler à ce dans quoi les LLMs sont bons.

‍

James Cham (03:16)

Oui.

‍

James Cham (03:16)

J’ai le sentiment que ça va être très déstabilisant et très, très, très étrange.

‍

Bob Sutton (03:23)

Donc ce sont, j’imagine, de petites équipes qui ont fait ça dès le départ.

‍

James Cham (03:29)

Oui, ou bien il y a une entreprise dans laquelle j’ai investi où l’équipe, le CTO, cofondateur, a 100 ingénieurs.

‍

James Cham (03:39)

Il a dit : on ne peut pas vraiment — et il a essayé de le mettre en place, et il a fait la même chose que tout le monde.

‍

James Cham (03:44)

On obtient ces améliorations marginales.

‍

James Cham (03:45)

Donc, donc ensuite, il a littéralement sorti quatre personnes de l’organisation.

‍

James Cham (03:48)

Il les a installées dans un autre espace de coworking.

‍

James Cham (03:50)

Ils ont une grotte, ils ont des manifestes, et c’est presque comme s’il fallait adhérer à une religion, une manière de travailler fondamentalement différente, pour obtenir le moindre résultat.

‍

James Cham (04:02)

Et je pense que la façon dont ils travaillent sera généralisée dans un à 20 ans.

‍

James Cham (04:09)

Oui.

‍

Bob Sutton (04:10)

Donc c’est la façon classique dont une innovation radicale démarre dans une organisation existante : on les met à l’écart.

‍

James Cham (04:15)

C’est ça.

‍

Bob Sutton (04:16)

Et on fait comme s’ils étaient une toute nouvelle organisation.

‍

James Cham (04:18)

C’est ça.

‍

James Cham (04:19)

Et puis, vous savez, ce type, Justin McCarthy, à son crédit, il est du genre : écoutez, vous savez, en gros, il faut être à fond avec moi sur cette manière de penser.

‍

James Cham (04:27)

Ça peut marcher ou pas, mais il faut y aller à fond et se lancer.

‍

James Cham (04:30)

Et donc, et pour être honnête, il dit : j’ai l’impression que, Tim, il y a comme quelques petites équipes chez Anthropic.

‍

James Cham (04:37)

Il y a quelques petites équipes chez Microsoft où ils ont réellement adopté cette vision.

‍

James Cham (04:42)

Et tout à coup, ils pilotent ces workflows et c’est comme s’ils géraient 8, 10, 50 employés.

‍

James Cham (04:49)

Et donc c’est épuisant, parce que ce n’est pas comme gérer de la manière dont un manager normal gère, avec par exemple un one-to-one de temps en temps, mais au lieu de ça, ces choses reviennent constamment vers eux en disant : « Hé, ça marche maintenant » ou « Vous voulez me faire un retour là-dessus ? »

‍

James Cham (05:02)

Et ce changement, j’ai l’impression qu’on n’en est qu’aux tout premiers signes.

‍

James Cham (05:07)

Et je n’ai vu personne le faire passer à l’échelle au-delà de cinq à huit, en vrille.

‍

Bob Sutton (05:11)

D’accord, donc le mot « workflows » dans cette situation, il m’a fallu du temps en tant que théoricien des organisations, parce que je pense à un humain qui en gère d’autres, mais là, vous gérez littéralement une bande de bots d’IA.

‍

James Cham (05:25)

C’est ça.

‍

Bob Sutton (05:27)

Il n’y a pas d’humains.

‍

James Cham (05:28)

Enfin, et ensuite il y a les humains qui travaillent avec vous à côté, vous collaborez, mais la manière dont vous collaborez n’est pas claire.

‍

James Cham (05:33)

Et au fait, je n’ai vu ça fonctionner qu’en développement logiciel aussi, non ?

‍

James Cham (05:36)

Donc je n’ai pas vu ça ailleurs, mais j’ai l’impression que, enfin, il y a un sens où le logiciel.

‍

James Cham (05:41)

Comme le dit un ami à moi, c’est un peu « le code d’abord », non ?

‍

James Cham (05:44)

Le développement logiciel est suffisamment clair et a suffisamment de bonnes propriétés pour que vous puissiez le comprendre pour le développement logiciel, puis tirer ces enseignements et les appliquer partout ailleurs.

‍

Bob Sutton (05:54)

Donc, enfin, l’inversion de ça, c’est quand les chauffeurs Uber sont gérés par un algorithme, en gros.

‍

James Cham (06:02)

Bien sûr.

‍

Bob Sutton (06:03)

Et ensuite, j’imagine que quand on aura Waymo, ce sera un algorithme, vous voyez, qui supervisera des robots, littéralement.

‍

James Cham (06:10)

Oui.

‍

James Cham (06:10)

Donc ce qui est intéressant, c’est que, si vous pensez au cas Uber tel qu’il était conçu il y a 10 ans, 

‍

James Cham (06:15)

par rapport au cas Uber tel qu’il est aujourd’hui, je parie qu’un manager Uber moderne ferait un meilleur travail que moi.

‍

James Cham (06:21)

Oui

‍

James Cham (06:21)

Parce qu’un manager Uber moderne basé sur un LLM pourrait en fait se dire : oh, cette personne est un peu fatiguée.

‍

James Cham (06:27)

Je vais écrire une note et dire quelque chose parce que, genre, le…

‍

James Cham (06:30)

Enfin, je pense que l’une des vérités durables sur les modèles aujourd’hui, c’est qu’ils ont une intelligence émotionnelle plus élevée qu’au moins un homme du 75e percentile.

‍

James Cham (06:39)

Alors, les hommes sont certes assez à côté de la plaque par rapport au reste de la population, mais clairement c’est un de ces cas où sa capacité à lire les situations et à capter les nuances est vraiment bonne et surprenante.

‍

Bob Sutton (06:53)

Donc l’une des personnes que nous avons interviewées et que nous connaissons depuis longtemps, Lindsey Cameron, elle est professeure à Wharton.

‍

Bob Sutton (06:59)

Et pour sa thèse, l’une des choses qu’elle a faites, c’est qu’elle était conductrice Uber et elle étudie essentiellement le fait d’avoir un algorithme comme patron.

‍

Bob Sutton (07:05)

Et, en gros, les conducteurs Uber aiment souvent avoir l’algorithme parce que, comme tu le dis, c’est plus fiable, c’est plus juste.

‍

Bob Sutton (07:12)

Et l’autre chose, c’est qu’il y a des façons de « jouer » avec tous les patrons, et les façons de « jouer » avec l’algorithme sont vraiment cohérentes.

‍

Bob Sutton (07:19)

Du genre, ça ne varie pas d’un…

‍

Bob Sutton (07:20)

Parce que tu as toujours le même algorithme, c’est comme si tu avais toujours le même patron.

‍

Bob Sutton (07:23)

Donc il y a des avantages.

‍

James Cham (07:24)

Ouais, ouais, ouais.

‍

James Cham (07:25)

Enfin, ouais, je vois tout à fait.

‍

James Cham (07:27)

Oui.

‍

Rebecca Hinds (07:28)

Et quand tu parles, James, d’une autre religion, à mesure que les gens adhèrent à cette nouvelle manière de travailler, est-ce que c’est un usage réflexe de l’IA ?

‍

Rebecca Hinds (07:37)

Est-ce qu’il y a autre chose que ça à laquelle ils adhèrent ?

‍

James Cham (07:39)

D’accord, donc dans ce cas-ci.

‍

James Cham (07:43)

Donc l’une des équipes, je pense, a vraiment beaucoup réfléchi à essayer de codifier ce qu’elle fait et ils avaient quelques idées, notamment autour du fait de ne taper aucun code à la main et de ne lire aucun code.

‍

James Cham (07:54)

Et donc cette idée, pour un développeur logiciel, est super désagréable.

‍

James Cham (07:58)

Ça paraît ridicule, non ?

‍

James Cham (07:59)

Toute ma vie, je suis un meilleur développeur logiciel parce que je peux regarder ce truc et le comprendre plus vite qu’une personne normale, ou comprendre et structurer plus rapidement.

‍

James Cham (08:08)

Et ensuite l’idée de retirer ça de ton processus cœur, c’était juste très difficile, non ?

‍

James Cham (08:13)

Et ils disaient : écoutez, on va y aller à fond, d’accord ?

‍

James Cham (08:17)

On va aussi y aller à fond sur, genre, tout un échafaudage autour des tests et ensuite on va y aller à fond sur le fait de chercher des workflows ou des boucles où une personne peut manager et concevoir, mais n’est un goulot d’étranglement à aucune des étapes.

‍

James Cham (08:31)

Et au moment où vous y arrivez, d’accord, alors tout d’un coup, ça va beaucoup plus vite.

‍

James Cham (08:34)

Parce qu’il y a une façon dont, je ne sais pas, il y a une manière un peu bête — je devrais dire bête — mais il y a une manière dont on parle du ROI aujourd’hui qui ressemble à ce que j’aurais fait si je mesurais des projets IT en 2005.

‍

James Cham (08:49)

Et ça semble évidemment faux en partie parce que là, on est à l’orée de découvrir et de comprendre des choses.

‍

James Cham (08:55)

Et donc vous cherchez ces expériences à plus fort rendement pour pouvoir ensuite expliquer à tout le monde : oh, ça marche bien, vous devriez tous travailler comme ça.

‍

James Cham (09:03)

Et c’est une chose différente de : oh, on va économiser 20 centimes et on remplace le centre d’appels comme ci ou comme ça.

‍

Bob Sutton (09:09)

C’est pour ça que ça doit soit être fait dans un skunk works, soit dans une startup.

‍

Bob Sutton (09:15)

Et donc c’est en quelque sorte…

‍

Bob Sutton (09:19)

Tu as quelque chose à ajouter là-dessus ?

‍

Bob Sutton (09:21)

Parce que c’est un outlier tellement bizarre.

‍

Bob Sutton (09:23)

Soit c’est l’avenir, soit ça va partir en fumée.

‍

Bob Sutton (09:25)

Non ?

‍

James Cham (09:25)

C’est ça.

‍

James Cham (09:26)

C’est ça.

‍

James Cham (09:26)

Non, non, je sais.

‍

James Cham (09:28)

Je leur dis, je dis ça à ces gars tout le temps.

‍

James Cham (09:30)

Ça pourrait être totalement faux ou ça pourrait être clairement l’avenir.

‍

James Cham (09:36)

Les autres choses qu’ils font, c’est que la nature de leur collaboration entre personnes est différente, parce qu’il s’avère que lorsqu’ils travaillent si vite avec les LLM, il y a presque une manière où la façon normale dont nous sommes tous les deux en train de regarder un repo de code, ou dont nous discutons, n’a plus vraiment de sens, parce que cette partie, ta petite boucle avec les agents, va tellement vite que tu ne sais pas vraiment comment travailler avec eux.

‍

James Cham (09:58)

Donc, l’autre chose qu’ils font beaucoup, c’est qu’ils font beaucoup apprendre des leçons aux agents.

‍

James Cham (10:06)

Ils envoient souvent le LLM examiner une autre base de code open source ou lire des documents, puis revenir et dire : voici les leçons intéressantes pour l’organisation ou pour la manière dont nous opérons, et voici certaines choses que nous pourrions même intégrer à nos workflows.

‍

James Cham (10:21)

Je pense que ça change la nature des dépendances.

‍

James Cham (10:26)

Soudain, je ne…

‍

James Cham (10:27)

Je ne peux pas…

‍

James Cham (10:28)

Enfin, c’est pour ça que je veux vous parler à tous les deux, parce que j’ai l’impression que dès que ça arrive, alors les anciennes hypothèses “normales” sur les organisations changent.

‍

James Cham (10:37)

C’est ça.

‍

James Cham (10:38)

Et je ne sais pas vraiment ce que ça signifie, mais j’ai le sentiment que si ça marche, ça signifie quelque chose de profond.

‍

Rebecca Hinds (10:44)

Parlons du software as a service.

‍

James Cham (10:46)

Oui.

‍

Rebecca Hinds (10:47)

Qui a dominé les 20 dernières années en matière de logiciel et d’investissement.

‍

Rebecca Hinds (10:52)

Quand on pense à l’IA, selon toi, quel va être le modèle dominant ?

‍

James Cham (10:57)

Oh, je pense que c’est une question vraiment ouverte.

‍

James Cham (10:59)

Je pense qu’il est important de se rappeler que le software as a service n’est pas seulement une relation précieuse entre une entreprise et ses clients, mais aussi, d’une certaine manière, le software as a service a été une formidable astuce de financement : un certain nombre de VCs très malins ont réalisé que le risque pour une entreprise de passer de 1 à 10 puis à 50 millions de dollars est inférieur à ce que le monde pensait.

‍

James Cham (11:22)

Qu’en fait, une entreprise peut donner l’impression de perdre de l’argent, mais qu’en réalité, parce qu’elle a établi tout un ensemble de schémas avec sa base de clients, le risque était bien moindre.

‍

James Cham (11:30)

Et donc mon ancien patron, David Cowan, je pense que c’est le premier à m’avoir formulé ça.

‍

James Cham (11:35)

Et je pense plus généralement que c’est l’un des premiers à avoir vraiment compris que le software as a service n’est pas seulement une affaire commerciale, mais aussi une autre manière de financer un business model.

‍

James Cham (11:44)

Et puis je pense que ce vieux schéma approche peut-être de sa fin : il y a une manière où, en partie parce que les clients deviennent plus exigeants, mais aussi parce que ma capacité à copier — ou je ne veux pas dire copier, mais ma capacité à adopter des logiciels et à créer des logiciels par moi-même — pourrait changer ça.

‍

James Cham (12:04)

Soudain, on se retrouve dans un monde très différent, inconfortable, pour les éditeurs de logiciels, cette question-là.

‍

James Cham (12:13)

Je vais vous dire ce que les gens veulent.

‍

James Cham (12:14)

Le rêve, c’est toujours de trouver un moyen de s’aligner sur les incitations de ton client, puis de trouver une manière de dire : oh, je vais partager une partie du résultat.

‍

James Cham (12:27)

C’est encore vraiment difficile, non ?

‍

James Cham (12:28)

C’est toujours vraiment, vraiment difficile.

‍

James Cham (12:30)

Et je ne sais pas si ce sera même faisable de manière cohérente.

‍

James Cham (12:34)

Parce que bien sûr, en quelque sorte, je suis là : je t’ai fait gagner 50 millions de dollars.

‍

James Cham (12:39)

Et toi, tu dis : eh bien, tu ne m’as pas vraiment fait gagner 50 millions de dollars.

‍

James Cham (12:41)

Tu m’as fait gagner 30 millions de dollars.

‍

James Cham (12:42)

Et quand on tient compte du travail que j’ai fait, toute cette négociation paraît vraiment difficile.

‍

James Cham (12:47)

Et donc la crainte, c’est qu’on finisse avec quelque chose qui ressemble davantage à l’utility computing.

‍

James Cham (12:52)

Le problème avec l’utility est que c’est très bien, mais le problème, c’est que je gagne de l’argent pour une certaine quantité de travail.

‍

James Cham (12:58)

Le problème, c’est que nos incitations ne sont pas alignées : je cherche constamment à te faire consommer davantage de compute plutôt qu’à obtenir un vrai résultat qui soit utile pour toi.

‍

James Cham (13:08)

Et donc ce sont probablement les deux pôles.

‍

James Cham (13:13)

Je pense que ce sont les deux options que les gens envisagent.

‍

James Cham (13:15)

Il y en a une troisième, qui selon moi est un business entièrement différent, où tu dis : oh, le logiciel que j’ai créé est tellement précieux que plutôt que de le vendre à d’autres, je vais simplement opérer un business qui repose dessus.

‍

Bob Sutton (13:27)

Oui, oui, oui, oui, oui, oui.

‍

Bob Sutton (13:30)

Et ça, c’est SAP et Oracle, non ?

‍

James Cham (13:31)

On dirait que c’est encore là comme option, donc…

‍

James Cham (13:33)

Mais nous, on n’est pas…

‍

James Cham (13:34)

Mais je… Je ne sais pas.

‍

Rebecca Hinds (13:35)

Et donc, quand tu conseilles des startups, qu’est-ce que tu leur dis sur la manière de penser la tarification ?

‍

James Cham (13:40)

Je pense que tu leur dis toujours qu’elles ne facturent pas assez, parce que c’est presque toujours vrai.

‍

James Cham (13:45)

C’est vrai.

‍

James Cham (13:46)

Et ensuite, il y a un petit côté, tu sais, le monde bouge tellement que tu fais juste attention à ce que font les autres dans ton marché.

‍

James Cham (13:55)

En termes de, genre, quelles sont les normes pour un marché donné — c’est là où nous en sommes aujourd’hui, je pense, parce que c’est aussi une question de timing : même si une approche type utility computing avait le plus de sens, si tu vas trop vite, trop loin avant tout le monde, tu te crées ces problèmes.

‍

James Cham (14:13)

Et donc c’est très spécifique à chaque marché, au moins pour l’instant.

‍

Rebecca Hinds (14:18)

Quel est le pire scénario possible avec l’IA ?

‍

James Cham (14:21)

Oh, il y a tellement de mauvaises choses qui peuvent arriver.

‍

James Cham (14:22)

C’est vrai.

‍

James Cham (14:23)

Enfin, en quelque sorte…

‍

James Cham (14:25)

Et c’est tout, du pire…

‍

James Cham (14:29)

C’est tout, du plus banal…

‍

James Cham (14:31)

On vit dans un monde de bouillie infinie, et on finit par se retrouver dans une situation où, j’en ai peur, tu m’écris et je me dis : est-ce que c’est vraiment Rebecca ?

‍

James Cham (14:41)

Ou est-ce que c’est genre : je ne peux pas vraiment faire confiance à ça ?

‍

James Cham (14:43)

Donc on passe d’un environnement de confiance relativement élevé à un environnement de confiance très faible, et ça pourrait être juste au coin de la rue.

‍

Bob Sutton (14:50)

Je pense que c’est déjà là. En fait, oui.

‍

James Cham (14:53)

Ouais.

‍

James Cham (14:53)

Oui.

‍

James Cham (14:53)

Tu le ressens, non ?

‍

James Cham (14:54)

Tu ressens ce premier moment où tu te dis : oh, ce n’est pas la personne que je pensais.

‍

James Cham (14:58)

Et puis ça devient.

‍

James Cham (15:01)

Ce sera les appels téléphoniques et la vidéo, tout ça.

‍

James Cham (15:04)

Et au moment, bien sûr, où l’on passe d’un environnement de haute confiance à un environnement de faible confiance, alors tout ralentit.

‍

James Cham (15:11)

Une autre version terrible, c’est si on finit — et je ne pense pas que ça arrivera — mais si on finit avec un seul fournisseur dominant de LLM, et qu’ensuite il intègre tout et n’a aucune incitation à s’améliorer, et que soudain on est tous sous la coupe de je ne sais quoi, et ça, c’est une mauvaise issue.

‍

James Cham (15:30)

Je pense que c’est moins probable maintenant, en partie simplement parce que tout le monde réfléchit à ça.

‍

James Cham (15:34)

Il y a un aspect positif : le côté terrifiant en tant qu’investisseur, bien sûr, c’est que le fait que tout le monde s’en soucie fait que les choses deviennent assez chères, et vos mots de bulle, ou des choses comme ça, c’est ce qui inquiète les gens.

‍

James Cham (15:46)

Mais le bon côté, c’est que quand tout le monde se concentre sur un problème, on sait que des solutions vont être trouvées, non ?

‍

James Cham (15:52)

Et ensuite, quand ils trouvent les solutions et en parlent à d’autres, alors on en bénéficie tous.

‍

Bob Sutton (15:56)

Du coup je me demande, juste en t’écoutant, en pensant à tes exemples précédents et en déroulant l’exemple où tu as ces ingénieurs en fait plutôt très intelligents qui ont.

‍

Bob Sutton (16:05)

Ils pilotent en quelque sorte des flottes de LLM, il me semble qu’ils en sont au point où ils gèrent réellement des choses qu’ils ne peuvent pas comprendre.

‍

Bob Sutton (16:12)

Alors est-ce que ça t’inquiète qu’on en arrive au point où on a ce qui était auparavant un système social — qui, d’ailleurs, était déjà trop compliqué à comprendre — si tu gères Walmart, ou choisis ta grande entreprise, ou Facebook meta, tu ne peux pas vraiment comprendre ce que tu es en train d’exploiter.

‍

Bob Sutton (16:28)

Mais toi, tu décrivais un autre niveau d’incompréhensibilité.

‍

James Cham (16:32)

C’est ça ?

‍

James Cham (16:33)

OK, donc je pense que tu n’as pas besoin que tout le monde comprenne.

‍

James Cham (16:38)

Mais tant qu’on a à la fois un écosystème de l’information et un écosystème éducatif où l’on encourage, disons, une certaine proportion de personnes à réellement s’intéresser à la façon dont les choses fonctionnent réellement, d’accord.

‍

James Cham (16:49)

Alors j’ai l’impression que ça va.

‍

James Cham (16:50)

C’est ça.

‍

James Cham (16:50)

Tu sais, en quelque sorte tant que, genre.

‍

Bob Sutton (16:52)

Bon, je ne parle pas seulement de s’y intéresser.

‍

Bob Sutton (16:53)

Je parle du fait que, peu importe à quel point tu t’y intéresses, tu as ce truc qui, en réalité, est impossible.

‍

Bob Sutton (16:57)

Donc tu ne comprends pas comment ça marche, tu ne comprends pas ce que ça fait, tu ne comprends pas comment le réparer.

‍

James Cham (17:01)

C’est ça.

‍

Bob Sutton (17:01)

C’est mon fantasme paranoïaque.

‍

Bob Sutton (17:03)

Peut-être que c’est trop paranoïaque.

‍

James Cham (17:05)

Enfin, je pense que le truc, la version de ça.

‍

James Cham (17:07)

Bon, écoute, ça arrive souvent, non ?

‍

James Cham (17:08)

Il y a plein de cas où on se retrouve avec un système.

‍

Bob Sutton (17:11)

Ouais, ce n’est pas le problème.

‍

James Cham (17:13)

Et puis on doit revenir en arrière ou corriger quelque chose.

‍

James Cham (17:15)

Et puis je pense que la bonne crainte, la variante de ce dont tu parles, qui fait peur en partie parce que tout le monde est tellement enthousiaste à ce sujet, c’est qu’on fait cinq pas de trop avant de se rendre compte : oh, ça ne marche pas du tout, et qu’ensuite on doit revenir et essayer désespérément de faire marche arrière.

‍

James Cham (17:31)

Et donc je pense que c’est comme un.

‍

James Cham (17:33)

Ça arrivera, non ?

‍

James Cham (17:35)

Ouais, ça arrivera.

‍

James Cham (17:36)

C’est juste une question de gravité.

‍

James Cham (17:37)

Avec un peu de chance, ce ne sera pas si grave.

‍

Bob Sutton (17:38)

Ouais, ouais.

‍

Bob Sutton (17:39)

La question, c’est : quelle est l’ampleur de l’échec ?

‍

Bob Sutton (17:41)

Ça arrive quand même, parce qu’on a des systèmes complexes qui échouent : des barrages.

‍

Bob Sutton (17:44)

Choisis ce que tu veux.

‍

James Cham (17:45)

Oh, totalement, totalement.

‍

James Cham (17:47)

Et dans ce sens, il y a ce terme dont certains gens de l’IA parlent, à propos du fait d’être un « accelerationist », où ils se disent : oh, ils veulent que ça aille aussi vite que possible.

‍

James Cham (17:58)

Et moi, j’ai un peu envie que ça arrive, mais seulement parce que je veux que les problèmes se produisent plus tôt, de manière locale.

‍

James Cham (18:05)

On parlait de San Francisco tout à l’heure.

‍

James Cham (18:07)

Je vois San Francisco comme un serveur de staging pour le reste du monde.

‍

James Cham (18:11)

On teste ces choses.

‍

James Cham (18:13)

Les gens voient si.

‍

James Cham (18:13)

Et avec un peu de chance, les gens voient si ça marche ou pas.

‍

James Cham (18:15)

Et puis le problème, c’est que parfois, ils ne le font pas vraiment.

‍

Bob Sutton (18:18)

Non, ils le font vraiment.

‍

James Cham (18:19)

Ils ne savent pas.

‍

James Cham (18:20)

Ils n’arrivent pas à le dire ou ils ne prêtent pas assez attention.

‍

James Cham (18:21)

Mais tu vois ce que je veux dire.

‍

Bob Sutton (18:22)

On parlait de San Francisco.

‍

Bob Sutton (18:24)

La moyenne n’est pas très intéressante.

‍

Bob Sutton (18:25)

C’est la variance qui est la norme.

‍

James Cham (18:27)

C’est ça.

‍

James Cham (18:27)

C’est ça.

‍

James Cham (18:28)

C’est ça.

‍

James Cham (18:28)

Et ensuite, en théorie, un monde plus intelligent dirait : on ne fera pas toutes les choses stupides que font les gens à San Francisco, ni les choses qui ne marchent manifestement pas, et on fera les choses qui fonctionnent.

‍

James Cham (18:36)

D’accord.

‍

James Cham (18:36)

Mais ensuite, tu vois, parfois, les choses qui ne marchent pas sont plus faciles à résumer dans un tweet.

‍

James Cham (18:42)

D’accord.

‍

Bob Sutton (18:44)

C’est aussi l’argument général selon lequel le négatif est plus fort que le positif.

‍

Bob Sutton (18:46)

Les gens s’en souviennent.

‍

Bob Sutton (18:47)

Ça se propage vite.

‍

Bob Sutton (18:48)

Et c’est un problème avec l’IA aussi : il est vraiment facile de se focaliser sur le côté sombre et sur à quel point ça va être terrible, parce que, nous en tant qu’êtres humains, ceux d’entre nous qui survivent pour se reproduire sont ceux qui se concentrent sur les mauvaises choses.

‍

James Cham (19:02)

Ont survécu.

‍

James Cham (19:03)

D’accord.

‍

James Cham (19:03)

Ouais, c’est juste.

‍

James Cham (19:04)

C’est juste.

‍

James Cham (19:05)

OK.

‍

James Cham (19:05)

Donc il y a ce truc : j’ai regardé, j’ai des amis au MBER qui faisaient cette conférence sur l’IA en partie parce que j’étais, genre, très intéressé par, genre, la microéconomie de l’IA.

‍

James Cham (19:18)

Et donc ils en ont fait une.

‍

James Cham (19:20)

Ils en font une chaque année, mais ils en ont fait une il y a sept ans où Yann Lecun, qui est, tu vois, un de ces géants, a, genre, donné une présentation.

‍

James Cham (19:26)

Et ensuite ils demandent à Danny Kahneman, ils disent : Danny Kahneman, qu’en pensez-vous ?

‍

James Cham (19:29)

Et Danny Kahneman, qui.

‍

James Cham (19:31)

Honnêtement, il est genre : je ne sais pas de quoi vous parlez.

‍

Bob Sutton (19:33)

Et.

‍

James Cham (19:33)

Et il dit quelques choses.

‍

James Cham (19:34)

Et donc c’était il y a sept ans, et il dit ces choses, et elles sont brillantes et choquantes, et elles sont encore plus claires aujourd’hui, donc vous devriez vraiment aller les retrouver.

‍

James Cham (19:43)

Mais l’une des choses qu’il dit, c’est : regardez, la sagesse, c’est une question d’ampleur.

‍

James Cham (19:51)

Et puis.

‍

James Cham (19:52)

Donc, d’une certaine manière, si nous concevons bien les modèles, les modèles prendront en compte davantage de facteurs, et ainsi les modèles seront plus sages que nous, si seulement nous les laissons faire.

‍

James Cham (20:01)

Et puis l’autre chose, qu’il a dite, qui me hante, et je pense qu’il a raison, malheureusement, c’est que les modèles offriront plus de soutien émotionnel que nous.

‍

James Cham (20:15)

Ce sera tout simplement plus facile.

‍

Bob Sutton (20:16)

Danny était un type brillant.

‍

James Cham (20:18)

Il avait raison.

‍

James Cham (20:19)

Mais il l’a dit il y a sept ans.

‍

James Cham (20:20)

Je l’ai lu.

‍

James Cham (20:21)

Je me disais : c’est ridicule.

‍

James Cham (20:22)

Ça ne peut pas être vrai.

‍

James Cham (20:23)

Et puis maintenant, bien sûr, je pense que c’est un monde qu’on sent juste à côté, où c’est juste plus gentiment fiable avec moi.

‍

James Cham (20:30)

D’accord.

‍

Bob Sutton (20:32)

Le dernier livre de Danny, en fait, avec quelques autres personnes, qui colle vraiment à l’époque aussi, portait sur le bruit, pas sur le biais.

‍

Bob Sutton (20:40)

Et je pense que, quand je pense à l’IA, Rebecca et moi avons passé quelques mois à bidouiller et à essayer de comprendre ce qui se passe, bon sang.

‍

Bob Sutton (20:46)

Le bruit semble être le titre : il y a tellement de variations, tellement de croyances incohérentes, tellement de réussites, tellement d’échecs, et les gens racontent des récits tellement différents.

‍

Bob Sutton (20:58)

C’est comme entrer dans une dispersion aléatoire d’idées, c’est comme ça qu’il définit le bruit.

‍

James Cham (21:03)

D’accord.

‍

Bob Sutton (21:04)

Et donc même là, je veux dire, Danny était tellement brillant.

‍

James Cham (21:07)

Ouais, c’était incroyable.

‍

Bob Sutton (21:09)

Bref, Danny, juste impressionnant, était impressionnant.

‍

Rebecca Hinds (21:11)

Donc, si l’on pense au bruit et au changement, nous avons parlé de nombreuses façons dont l’IA est susceptible de changer certains aspects de notre travail.

‍

Rebecca Hinds (21:18)

Quel est un aspect de notre travail, ou de notre façon de travailler, qui selon vous ne changera pas ou ne devrait pas changer ?

‍

James Cham (21:24)

OK.

‍

James Cham (21:25)

Pour le meilleur ou pour le pire, il y aura probablement toujours des relations commerciales.

‍

James Cham (21:28)

D’accord ?

‍

James Cham (21:29)

Les gens seront probablement toujours payés pour quelque chose de bien.

‍

James Cham (21:31)

Il y aura probablement toujours l’argent comme principe d’organisation.

‍

James Cham (21:37)

Donc ça restera probablement vrai.

‍

James Cham (21:38)

Je veux dire, une autre version, c’est que les LLM deviennent tellement bons pour gérer énormément, énormément de variables qu’on finit avec une sorte de système de troc bizarre.

‍

James Cham (21:45)

C’est possible.

‍

Bob Sutton (21:46)

Ouais, c’est possible.

‍

James Cham (21:47)

Peu probable.

‍

James Cham (21:48)

Donc ça restera vrai.

‍

James Cham (21:50)

Il y a une bonne question sur le fait de savoir si les systèmes humains sont dynamiques et dans quelle mesure les humains continueront à déplacer ce que nous trouvons précieux.

‍

James Cham (22:02)

D’accord.

‍

James Cham (22:03)

Et il est possible que je valorise davantage la relation parasociale que la relation sociale.

‍

James Cham (22:11)

D’accord.

‍

James Cham (22:12)

Et donc c’est possible.

‍

James Cham (22:13)

Donc peut-être que j’allais avancer l’idée que les gens valorisent encore certaines choses humaines, mais ce n’est peut-être pas vrai.

‍

James Cham (22:19)

OK.

‍

James Cham (22:19)

Donc peut-être que la seule chose dont je suis sûr, c’est qu’il y aura des relations commerciales.

‍

James Cham (22:23)

D’accord.

‍

James Cham (22:23)

Que les gens continueront d’avoir, genre, un chiffre unique.

‍

Bob Sutton (22:26)

Il y a tellement d’argent pour une certaine variation.

‍

James Cham (22:29)

C’est ça.

‍

Bob Sutton (22:31)

La cryptomonnaie ou un truc comme ça.

‍

James Cham (22:32)

D’accord.

‍

Rebecca Hinds (22:33)

Quelle superbe conversation.

‍

Rebecca Hinds (22:34)

Si vous le pensez aussi, abonnez-vous pour ne manquer aucun épisode.

‍

Rebecca Hinds (22:38)

Merci d’avoir pris le temps d’être avec nous et à la prochaine fois sur Intelligence Real and Imagined.

‍