Rebecca Hinds (00:00)

Bienvenue dans Intelligence Real and Imagined, proposé par le Work AI Institute de Glean.

‍

Rebecca Hinds (00:05)

C'est l'émission où nous faisons le tri entre ce qui est réel, ce qui relève du battage médiatique, et ce qui fonctionne vraiment avec l'IA au travail.

‍

Rebecca Hinds (00:12)

Dans cet épisode, nous explorons comment l'IA commence à exercer une réelle pression sur la conception organisationnelle, comment les équipes se restructurent autour de l'IA, comment la prise de décision et la responsabilité évoluent lorsque le travail s'accélère, et quels nouveaux modèles économiques pourraient remplacer l'ancien modèle du SaaS.

‍

Rebecca Hinds (00:33)

Notre invité aujourd'hui est James Cham, associé fondateur de Bloomberg Beta, le fonds de capital-risque de Bloomberg.

‍

Rebecca Hinds (00:39)

Il a consacré sa carrière à soutenir et à étudier la manière dont les nouvelles technologies transforment les équipes, les produits et les modèles économiques.

‍

Rebecca Hinds (00:48)

Et il est aux premières loges pour observer comment l'IA change ce qui est construit, qui le construit, et comment le travail est organisé.

‍

Rebecca Hinds (00:57)

Comme toujours, je suis également accompagnée de mon co-animateur, Bob Sutton, professeur émérite à Stanford et l'un des membres fondateurs du Work AI Institute.

‍

Rebecca Hinds (01:06)

Je suis vraiment ravie de cette conversation, alors entrons dans le vif du sujet.

‍

Bob Sutton (01:14)

La question de ce à quoi une organisation est censée ressembler.

‍

Bob Sutton (01:16)

En fait, je ne pense pas avoir jamais été perdu à ce sujet, mais je crois que je le suis.

‍

James Cham (01:21)

Je suis sincère, d'ailleurs.

‍

James Cham (01:22)

Bien sûr, cela ne se produit qu'à l'extrême, extrême, extrême marge.

‍

James Cham (01:27)

Ils ne sont que.

‍

James Cham (01:28)

Je passe mes journées à chercher ce genre d'équipes, et j'en ai trouvé trois.

‍

James Cham (01:35)

J'ai littéralement passé toute la journée à demander : avez-vous entendu parler de quelqu'un qui fait ça ?

‍

James Cham (01:38)

Et puis on n'en voit que quelques-unes.

‍

James Cham (01:39)

Donc ce n'est pas une pratique courante.

‍

James Cham (01:42)

Pas encore.

‍

Rebecca Hinds (01:42)

Intéressant.

‍

Rebecca Hinds (01:44)

Cette activité d'équipe pèse-t-elle davantage dans votre décision d'investir aujourd'hui qu'auparavant ?

‍

James Cham (01:52)

D'une certaine manière, peu m'importe ce que vous faites.

‍

James Cham (01:55)

Enfin, un peu.

‍

James Cham (01:56)

Si vous avez compris l'avenir, alors je travaillerai avec vous.

‍

James Cham (02:00)

Nous trouverons bien une activité.

‍

James Cham (02:01)

Mais si vous trouvez comment.

‍

James Cham (02:03)

cette façon agressive de travailler, c'est ce que je passe tout mon temps à chercher.

‍

Bob Sutton (02:07)

D'accord, très bien.

‍

Bob Sutton (02:08)

Vous recherchez donc vraiment des cas atypiques.

‍

Rebecca Hinds (02:10)

Et lorsqu'on pense à l'IA d'entreprise en particulier, si vous deviez imaginer, disons dans un an, deux ans, quel serait le meilleur résultat possible de l'impact de l'IA sur nos organisations ?

‍

James Cham (02:23)

Alors pour l'instant, je ne vois cela que dans quelques rares endroits, mais j'ai le sentiment qu'il existe aujourd'hui de petites équipes qui ont vraiment compris comment utiliser les LLM pour ce qu'ils font de mieux.

‍

James Cham (02:36)

Je pense que ce n'est pas encore répandu. Même maintenant, j'ai passé toute la journée à chercher cela.

‍

James Cham (02:43)

J'ai passé toute la journée à chercher des gens qui utilisent les LLM de manière réellement agressive, où ils ont retiré les humains du processus autant que possible.

‍

James Cham (02:52)

Et ils ont trouvé comment utiliser les LLM dans les domaines où ils sont bons, parce qu'ils sont mauvais dans beaucoup de choses.

‍

James Cham (02:58)

Toutes les critiques habituelles que les gens formulent, elles sont totalement vraies.

‍

James Cham (03:02)

Mais en même temps, ils deviennent moins chers, ils deviennent plus efficaces selon certaines dimensions.

‍

James Cham (03:08)

Et puis les gens qui voient l'avenir et qui sont capables d'adapter leur façon de travailler à ce que les LLM font bien.

‍

James Cham (03:16)

Voilà.

‍

James Cham (03:16)

J'ai le sentiment que ça va être très déconcertant et très, très, très étrange.

‍

Bob Sutton (03:23)

Donc ce sont, je suppose, de petites équipes qui ont fait cela depuis leur création.

‍

James Cham (03:29)

Oui, ou alors il y a une entreprise dans laquelle j'ai investi où l'équipe, le CTO, co-fondateur, dirige 100 ingénieurs.

‍

James Cham (03:39)

Il a dit qu'on ne pouvait pas vraiment, et il a essayé de le mettre en œuvre, et il a fait la même chose que tout le monde.

‍

James Cham (03:44)

On obtient ces améliorations marginales.

‍

James Cham (03:45)

Alors, alors il a littéralement retiré quatre personnes de l'organisation.

‍

James Cham (03:48)

Il les a installées dans un espace de coworking différent.

‍

James Cham (03:50)

Ils ont une grotte, ils ont des manifestes, et c'est presque comme s'ils devaient adhérer à une religion, une façon de travailler fondamentalement différente, pour obtenir le moindre résultat.

‍

James Cham (04:02)

Et je pense que leur façon de travailler sera répandue d'ici un à vingt ans.

‍

James Cham (04:09)

Voilà.

‍

Bob Sutton (04:10)

C'est donc la manière classique dont une innovation radicale démarre au sein d'une organisation existante : on les extrait.

‍

James Cham (04:15)

C'est exact.

‍

Bob Sutton (04:16)

Et on fait comme s'ils étaient une toute nouvelle organisation.

‍

James Cham (04:18)

C'est exact.

‍

James Cham (04:19)

Et puis, vous savez, ce type, Justin McCarthy, tout à son honneur, il dit : écoutez, vous savez, en quelque sorte, vous devez être totalement avec moi dans cette façon de penser.

‍

James Cham (04:27)

Ça peut marcher ou non, mais vous devez vous investir à fond et vous lancer.

‍

James Cham (04:30)

Et donc, pour être honnête, il dit : j'ai l'impression que Tim, il y a quelques petites équipes chez Anthropic.

‍

James Cham (04:37)

Il y a quelques petites équipes chez Microsoft où ils ont vraiment adopté cette vision.

‍

James Cham (04:42)

Et puis soudain, ils gèrent ces flux de travail, et c'est comme s'ils géraient 8, 10, 50 employés.

‍

James Cham (04:49)

Et donc c'est épuisant, parce que ce n'est pas comme gérer à la manière d'un manager normal qui fait, disons, occasionnellement un entretien individuel, mais au lieu de cela, ces choses reviennent constamment vers eux pour dire : hé, ça marche maintenant, ou aimeriez-vous me donner un retour là-dessus ?

‍

James Cham (05:02)

Et donc ce basculement, j'ai l'impression qu'on n'en savoure que le tout début.

‍

James Cham (05:07)

Et je n'ai vu personne le faire passer à l'échelle au-delà de cinq à huit, bouleversé.

‍

Bob Sutton (05:11)

Bon, alors le mot workflows dans cette situation, ça m'a pris du temps en tant que théoricien classique des organisations, parce que je pense à un humain qui gère d'autres humains, mais là vous gérez littéralement un ensemble de bots IA.

‍

James Cham (05:25)

C'est ça.

‍

Bob Sutton (05:27)

Il n'y a aucun humain.

‍

James Cham (05:28)

Eh bien, et puis les humains qui travaillent avec vous à côté, vous collaborez, mais ensuite la façon dont vous collaborez n'est pas claire.

‍

James Cham (05:33)

Et au fait, je n'ai vu ça fonctionner que dans le développement logiciel aussi, non ?

‍

James Cham (05:36)

Donc je n'ai pas vu ça ailleurs, mais j'ai l'impression que, je veux dire, il y a une manière dont le logiciel.

‍

James Cham (05:41)

Comme le dit un de mes amis, le code passe en premier, non ?

‍

James Cham (05:44)

Genre, le développement logiciel est assez clair et possède suffisamment de propriétés intéressantes pour qu'on puisse le résoudre pour le développement logiciel, et ensuite on peut tirer ces leçons et les appliquer partout ailleurs.

‍

Bob Sutton (05:54)

Donc, je veux dire, l'inversion de ça, c'est quand les chauffeurs Uber sont gérés par un algorithme, en gros.

‍

James Cham (06:02)

Bien sûr.

‍

Bob Sutton (06:03)

Et puis je suppose que quand on a Waymo, c'est un algorithme, vous savez, qui supervise des robots, littéralement.

‍

James Cham (06:10)

Exact.

‍

James Cham (06:10)

Donc ce qui est intéressant là-dedans, cependant, c'est que si on pense au cas d'Uber tel qu'il était conçu il y a 10 ans, 

‍

James Cham (06:15)

Par rapport au cas d'Uber tel qu'il est aujourd'hui, je parie qu'un manager Uber moderne ferait un meilleur travail que moi.

‍

James Cham (06:21)

Exact

‍

James Cham (06:21)

Parce qu'un manager Uber moderne basé sur un LLM pourrait en fait se dire : oh, cette personne est un peu fatiguée.

‍

James Cham (06:27)

Je vais écrire un mot et dire quelque chose parce que, genre, le.

‍

James Cham (06:30)

Je veux dire, je pense que l'une des vérités durables à propos des modèles en ce moment, c'est qu'ils ont une intelligence émotionnelle plus élevée qu'au moins un type situé au 75e percentile.

‍

James Cham (06:39)

Bon, les hommes sont il est vrai assez peu perspicaces par rapport à la population générale, mais c'est vraiment l'un de ces cas où sa capacité à décrypter les situations et à saisir les nuances est en fait assez bonne et surprenante.

‍

Bob Sutton (06:53)

Donc l'une des personnes que nous avons interviewées et que nous connaissons depuis longtemps, Lindsey Cameron, est professeure à Wharton.

‍

Bob Sutton (06:59)

Et pour sa thèse, l'une des choses qu'elle a faites, c'est qu'elle a été chauffeuse Uber et elle étudie en gros le fait d'avoir un algorithme pour patron.

‍

Bob Sutton (07:05)

Et essentiellement, les chauffeurs Uber aiment souvent avoir l'algorithme parce que, comme vous le dites, il est plus fiable, il est plus juste.

‍

Bob Sutton (07:12)

Et l'autre chose, c'est qu'il existe des moyens de duper tous les patrons, et les moyens de duper l'algorithme sont vraiment constants.

‍

Bob Sutton (07:19)

Genre, ça ne varie pas de.

‍

Bob Sutton (07:20)

Parce qu'on a toujours le même algorithme, c'est comme si on avait toujours le même patron.

‍

Bob Sutton (07:23)

Donc il y a des avantages.

‍

James Cham (07:24)

Ouais, ouais, ouais.

‍

James Cham (07:25)

Je veux dire, ouais, je vois tout à fait ça.

‍

James Cham (07:27)

Exact.

‍

Rebecca Hinds (07:28)

Et quand vous parlez, James, d'une autre religion, à mesure que les gens adhèrent à cette nouvelle façon de travailler, est-ce l'usage réflexe de l'IA ?

‍

Rebecca Hinds (07:37)

Y a-t-il quelque chose au-delà de ça auquel ils adhèrent ?

‍

James Cham (07:39)

Bon, alors maintenant dans le cas de ça.

‍

James Cham (07:43)

Donc l'une des équipes, je pense, a réfléchi assez sérieusement à essayer de codifier ce qu'elle fait et elle avait quelques idées, notamment autour du fait de ne pas écrire de code à la main et de ne pas lire de code.

‍

James Cham (07:54)

Et donc cette idée, pour un développeur logiciel, est super déplaisante.

‍

James Cham (07:58)

Ça semble ridicule, non ?

‍

James Cham (07:59)

Toute ma vie, je suis un meilleur développeur logiciel parce que je pouvais en fait regarder cette chose et la comprendre plus vite qu'une personne normale, ou comprendre et structurer plus rapidement.

‍

James Cham (08:08)

Et puis l'idée de retirer ça de votre processus central était simplement très difficile, non ?

‍

James Cham (08:13)

Et comme ils l'ont dit, écoutez, on va miser à fond là-dessus, non ?

‍

James Cham (08:17)

On va aussi miser à fond sur, genre, beaucoup d'échafaudage autour des tests, et puis on va miser à fond sur, genre, la recherche de workflows ou de boucles où une personne pourrait gérer et concevoir, mais ne soit pas un point de blocage à l'une quelconque des étapes.

‍

James Cham (08:31)

Et au moment où vous réussissez ça, non, alors soudain la chose va beaucoup plus vite.

‍

James Cham (08:34)

Parce qu'il y a une manière dont, je ne sais pas, il y a genre une façon bête, je devrais l'appeler bête, mais il y a une façon dont les gens parlent du ROI en ce moment qui semble être la même chose que ce que j'aurais faite si je mesurais des projets IT en 2005.

‍

James Cham (08:49)

Et ça semble manifestement faux, en partie parce qu'en ce moment on est à la lisière de découvrir et de comprendre des choses.

‍

James Cham (08:55)

Et donc vous recherchez ces expériences à fort retour, pour pouvoir ensuite décrire à tout le monde : oh, cette chose fonctionne bien, vous devriez tous travailler de cette façon.

‍

James Cham (09:03)

Et c'est, genre, une chose différente de : oh, on va économiser 20 cents et on remplace le centre d'appels de telle ou telle manière.

‍

Bob Sutton (09:09)

Donc c'est pour ça que ça doit soit être fait dans un skunk works, soit être fait dans une startup.

‍

Bob Sutton (09:15)

Et donc c'est en quelque sorte.

‍

Bob Sutton (09:19)

Avez-vous quelque chose de plus à ajouter là-dessus ?

‍

Bob Sutton (09:21)

Parce que c'est un cas aberrant tellement bizarre.

‍

Bob Sutton (09:23)

Soit c'est l'avenir, soit ça va se consumer.

‍

Bob Sutton (09:25)

Non ?

‍

James Cham (09:25)

C'est exact.

‍

James Cham (09:26)

C'est exact.

‍

James Cham (09:26)

Non, non, je sais.

‍

James Cham (09:28)

Je, je dis ça à ces gars tout le temps.

‍

James Cham (09:30)

Ça pourrait être totalement faux ou ça pourrait être clairement l'avenir.

‍

James Cham (09:36)

L'autre chose qu'ils font, c'est que la nature de leur collaboration entre les personnes est différente, car il s'avère que lorsqu'ils travaillent si vite avec les LLM, il y a presque une façon dont la manière normale dont nous deux examinons un dépôt de code ou discutons n'a plus vraiment de sens, parce que cette partie, votre petite boucle avec les agents, est si rapide que vous ne trouvez pas vraiment comment travailler avec eux.

‍

James Cham (09:58)

L'autre chose qu'ils font beaucoup, c'est de faire en sorte que les agents tirent des leçons.

‍

James Cham (10:06)

Ils envoient souvent le LLM examiner une autre base de code open source ou lire des documents, puis revenir dire : voici les leçons intéressantes pour l'organisation ou pour notre façon de fonctionner, et voici certaines choses que nous pourrions même intégrer à nos flux de travail.

‍

James Cham (10:21)

Je pense que cela change la nature des dépendances.

‍

James Cham (10:26)

Soudain, je ne le fais pas.

‍

James Cham (10:27)

Je ne peux pas.

‍

James Cham (10:28)

C'est pour ça que je veux vous parler à tous les deux, parce que j'ai l'impression qu'au moment où cela se produit, les anciennes hypothèses normales autour des organisations changent.

‍

James Cham (10:37)

C'est vrai.

‍

James Cham (10:38)

Et je ne sais pas vraiment ce que cela signifie, mais j'ai l'impression que si ça marche, ça signifie quelque chose de profond.

‍

Rebecca Hinds (10:44)

Parlons du logiciel en tant que service.

‍

James Cham (10:46)

Oui.

‍

Rebecca Hinds (10:47)

Il a dominé les 20 dernières années en termes de logiciel et d'investissement.

‍

Rebecca Hinds (10:52)

Alors que nous réfléchissons à l'IA, quel sera selon vous le modèle dominant ?

‍

James Cham (10:57)

Oh, je pense que c'est une question vraiment ouverte.

‍

James Cham (10:59)

Je pense qu'il est important de se rappeler que le logiciel en tant que service n'est pas seulement une relation précieuse entre une entreprise et ses clients, mais que d'une certaine manière, le logiciel en tant que service était aussi un formidable astuce de financement, qu'un groupe de VC très intelligents ont réalisé que le risque qu'une entreprise passe de 1 à 10 puis à 50 millions de dollars est moindre que ce que le monde pensait.

‍

James Cham (11:22)

Qu'en réalité, une entreprise peut sembler perdre de l'argent, mais en fait, parce qu'elle avait établi tout un ensemble de modèles avec son groupe de clients, c'était en réalité beaucoup moins risqué.

‍

James Cham (11:30)

Et donc mon ancien patron, David Cowan, je crois, a été le premier à me formuler cela.

‍

James Cham (11:35)

Et je pense qu'en général, il a été le premier à vraiment comprendre que le logiciel en tant que service n'est pas seulement une chose commerciale, mais aussi une façon différente de financer un modèle économique.

‍

James Cham (11:44)

Et puis je pense que cet ancien modèle touche peut-être à sa fin, qu'il y a une façon dont, en partie parce que les clients deviennent plus exigeants, mais aussi ma capacité à copier, ou je ne veux pas dire copier, mais ma capacité à adopter des logiciels et à créer des logiciels par moi-même pourrait changer cela.

‍

James Cham (12:04)

Soudain, nous sommes dans un monde très différent et inconfortable pour les entreprises de logiciels face à cette question.

‍

James Cham (12:13)

Je vais vous dire ce que les gens veulent.

‍

James Cham (12:14)

Le rêve est toujours de trouver un moyen de vous aligner sur les incitations de votre client, puis de trouver un moyen de dire : oh, je vais partager un certain résultat.

‍

James Cham (12:27)

C'est toujours vraiment difficile, n'est-ce pas ?

‍

James Cham (12:28)

C'est toujours vraiment, vraiment difficile.

‍

James Cham (12:30)

Et je ne sais pas clairement si cela sera même faisable de manière cohérente.

‍

James Cham (12:34)

Parce que bien sûr, en quelque sorte, je me dis : je vous ai fait gagner 50 millions de dollars.

‍

James Cham (12:39)

Et vous dites : eh bien, vous ne m'avez pas vraiment fait gagner 50 millions, 50 millions de dollars.

‍

James Cham (12:41)

Vous m'avez fait gagner 30 millions de dollars.

‍

James Cham (12:42)

Et compte tenu du travail que j'ai fait sur toute cette négociation, cela semble vraiment difficile.

‍

James Cham (12:47)

Et donc la crainte est que nous finissions avec quelque chose qui ressemble davantage à de l'informatique en tant que service public.

‍

James Cham (12:52)

Le problème avec le service public est si bon, mais le problème c'est que je gagne de l'argent pour une certaine quantité de travail.

‍

James Cham (12:58)

Le problème, c'est que nos incitations ne sont pas alignées, que j'essaie constamment de vous faire utiliser davantage mon calcul plutôt que d'obtenir un résultat réel qui vous est utile.

‍

James Cham (13:08)

Et ce sont donc probablement les deux tendances.

‍

James Cham (13:13)

Je pense que ce sont les deux choses que les gens envisagent.

‍

James Cham (13:15)

Il y en a une troisième, qui est selon moi une activité entièrement différente, dans laquelle vous dites : oh, le logiciel que j'ai créé est si précieux que, plutôt que de le vendre à d'autres, je vais simplement exploiter une activité basée dessus.

‍

Bob Sutton (13:27)

Oui, oui, oui, oui, oui, oui.

‍

Bob Sutton (13:30)

Et c'est SAP et Oracle, n'est-ce pas ?

‍

James Cham (13:31)

J'ai l'impression que c'est encore une option envisageable, alors.

‍

James Cham (13:33)

Mais nous ne le sommes pas.

‍

James Cham (13:34)

Mais je. Je ne sais pas.

‍

Rebecca Hinds (13:35)

Et donc, lorsque vous conseillez des startups, que leur dites-vous quant à la façon de penser la tarification ?

‍

James Cham (13:40)

Je pense qu'on leur dit toujours qu'ils ne facturent pas assez, parce que c'est presque toujours vrai.

‍

James Cham (13:45)

C'est vrai.

‍

James Cham (13:46)

Et puis il y a un peu de, vous savez, en quelque sorte, le monde change tellement que vous prêtez simplement attention aux autres acteurs de votre marché.

‍

James Cham (13:55)

En ce qui concerne, par exemple, quelles sont les normes pour un marché spécifique à l'heure actuelle, je pense que c'est en quelque sorte où nous en sommes, parce que c'est un peu une question de timing où, même si une forme d'informatique en tant que service public avait le plus de sens, si vous preniez trop d'avance sur tout le monde, alors vous créez ces problèmes.

‍

James Cham (14:13)

Et donc c'est très spécifique au marché, du moins pour l'instant.

‍

Rebecca Hinds (14:18)

Quel est le pire scénario possible de l'IA ?

‍

James Cham (14:21)

Oh, il y a tellement de mauvaises choses qui peuvent arriver.

‍

James Cham (14:22)

C'est vrai.

‍

James Cham (14:23)

Comme en quelque sorte.

‍

James Cham (14:25)

Et cela va du pire.

‍

James Cham (14:29)

Cela va du banal.

‍

James Cham (14:31)

On vit simplement dans un monde de bouillie infinie et on finit par arriver à un point où, j'ai peur, tu m'envoies un message et je me dis : est-ce que c'est vraiment Rebecca ?

‍

James Cham (14:41)

Ou est-ce que c'est du genre : je ne peux pas vraiment faire confiance à ça ?

‍

James Cham (14:43)

Donc on passe d'un environnement relativement à haute confiance à un environnement à très faible confiance, et ça pourrait être juste au coin de la rue.

‍

Bob Sutton (14:50)

Je pense que c'est déjà là, en fait, oui.

‍

James Cham (14:53)

Oui.

‍

James Cham (14:53)

Enfin, tu le ressens, non ?

‍

James Cham (14:54)

Tu ressens cette première fois où tu te dis : oh, ce n'est pas la personne que je croyais.

‍

James Cham (14:58)

Et puis ça devient.

‍

James Cham (15:01)

Ce seront des appels téléphoniques et ce sera de la vidéo, tout ça.

‍

James Cham (15:04)

Et au moment, bien sûr, où l'on passe d'un environnement à haute confiance à un environnement à faible confiance, alors tout ralentit.

‍

James Cham (15:11)

Une autre version terrible, c'est si on finit par, et je ne pense pas que cela arrivera, mais si on finit avec un seul fournisseur dominant de LLM, et ensuite ils intègrent tout et n'ont aucune incitation à s'améliorer, et soudain nous sommes tous sous la coupe de peu importe qui, et c'est un mauvais résultat.

‍

James Cham (15:30)

Je pense que c'est moins probable maintenant, en partie simplement parce que tout le monde y réfléchit.

‍

James Cham (15:34)

Il y a une bonne chose : ce qui est terrifiant en tant qu'investisseur, bien sûr, c'est que le fait que tout le monde s'en soucie signifie que les choses deviennent assez chères, et vos histoires de bulles ou ce genre de choses qui inquiètent les gens.

‍

James Cham (15:46)

Mais la bonne chose, c'est que lorsque tout le monde se concentre sur un problème, on sait que les gens trouveront des solutions, non ?

‍

James Cham (15:52)

Et puis quand ils trouvent les solutions et en parlent aux autres, alors on en profite tous.

‍

Bob Sutton (15:56)

Alors je me demande, juste en entendant, en pensant à tes exemples précédents et en déroulant l'exemple où tu as ces ingénieurs en réalité assez brillants qui ont.

‍

Bob Sutton (16:05)

Ils gèrent en quelque sorte des flottes de LLM, il me semble qu'ils en sont au point où ils gèrent en réalité des choses qu'ils ne peuvent pas comprendre.

‍

Bob Sutton (16:12)

Alors est-ce que tu t'inquiètes qu'on en arrive au point où l'on a ce qui était autrefois un système social, qui, soit dit en passant, était déjà trop compliqué à comprendre tel quel si tu diriges Walmart ou n'importe quelle grande entreprise ou Facebook Meta, tu ne peux en réalité pas comprendre ce que tu diriges.

‍

Bob Sutton (16:28)

Mais tu décrivais un autre niveau d'incompréhensibilité.

‍

James Cham (16:32)

N'est-ce pas ?

‍

James Cham (16:33)

D'accord, donc je pense qu'on n'a pas besoin que tout le monde comprenne.

‍

James Cham (16:38)

Mais tant qu'on a à la fois un écosystème d'information et un écosystème éducatif où l'on encourage, disons, un certain pourcentage de personnes à vraiment se soucier de la façon dont les choses fonctionnent réellement, bon.

‍

James Cham (16:49)

Alors j'ai l'impression qu'on va bien.

‍

James Cham (16:50)

Oui.

‍

James Cham (16:50)

Tu sais, en quelque sorte tant que, genre.

‍

Bob Sutton (16:52)

Eh bien, je ne parle pas seulement de se soucier.

‍

Bob Sutton (16:53)

Je parle du fait que peu importe à quel point tu t'en soucies, tu as cette chose qui en réalité est impossible.

‍

Bob Sutton (16:57)

Donc tu ne comprends pas comment ça fonctionne, tu ne comprends pas ce que ça fait, tu ne comprends pas comment le réparer.

‍

James Cham (17:01)

Oui.

‍

Bob Sutton (17:01)

C'est mon fantasme paranoïaque.

‍

Bob Sutton (17:03)

C'est peut-être trop paranoïaque.

‍

James Cham (17:05)

Enfin, je pense que ce qui, la version de ça.

‍

James Cham (17:07)

Eh bien, écoute, ça arrive beaucoup, non ?

‍

James Cham (17:08)

Il y a plein de cas où l'on finit avec un système.

‍

Bob Sutton (17:11)

Oui, ce n'est pas le problème.

‍

James Cham (17:13)

Et ensuite on doit revenir en arrière ou réparer quelque chose.

‍

James Cham (17:15)

Et puis je pense que la bonne peur, la variation de ce dont tu parles, qui est effrayante, en partie parce que tout le monde est tellement enthousiasmé par ça qu'on fait cinq pas de trop avant de réaliser : oh, ça ne marche pas du tout, et qu'il faut ensuite rouler et essayer désespérément de revenir en arrière.

‍

James Cham (17:31)

Et donc je pense que c'est comme un.

‍

James Cham (17:33)

Ça arrivera, non ?

‍

James Cham (17:35)

Oui, ça arrivera.

‍

James Cham (17:36)

C'est juste une question de à quel point c'est grave.

‍

James Cham (17:37)

Espérons que ce ne sera pas si grave.

‍

Bob Sutton (17:38)

Oui, oui.

‍

Bob Sutton (17:39)

La question est : quelle est l'ampleur de l'échec ?

‍

Bob Sutton (17:41)

Ça arrive quand même parce qu'on a des systèmes complexes qui échouent, des barrages.

‍

Bob Sutton (17:44)

Choisis ce que tu veux.

‍

James Cham (17:45)

Oh, tout à fait, tout à fait.

‍

James Cham (17:47)

Et dans ce sens, il y a ce terme dont certains des gens de l'IA parlent, le fait d'être accélérationniste, où ils se disent, oh, ils veulent que la chose aille le plus vite possible.

‍

James Cham (17:58)

Et je veux un peu que ça arrive, mais seulement parce que je veux que les problèmes surviennent plus tôt, de manière locale.

‍

James Cham (18:05)

On parlait de San Francisco tout à l'heure.

‍

James Cham (18:07)

Je vois San Francisco comme un serveur de préproduction pour le reste du monde.

‍

James Cham (18:11)

On a essayé ces choses.

‍

James Cham (18:13)

Les gens voient si.

‍

James Cham (18:13)

Et espérons que les gens voient si elles fonctionnent ou non.

‍

James Cham (18:15)

Et puis le problème, c'est que parfois ils ne le font pas vraiment.

‍

Bob Sutton (18:18)

Non, ils ne le font vraiment pas.

‍

James Cham (18:19)

Ils ne savent pas.

‍

James Cham (18:20)

Ils ne peuvent pas dire ou ils ne paient pas assez.

‍

James Cham (18:21)

Mais, tu vois ce que je veux dire.

‍

Bob Sutton (18:22)

On parlait de San Francisco.

‍

Bob Sutton (18:24)

La moyenne n'est pas très intéressante.

‍

Bob Sutton (18:25)

C'est la variance qui est la norme.

‍

James Cham (18:27)

C'est exact.

‍

James Cham (18:27)

C'est exact.

‍

James Cham (18:28)

C'est exact.

‍

James Cham (18:28)

Et puis, en théorie, un monde plus intelligent dirait : nous ne ferons pas toutes les bêtises que les gens de San Francisco font ou les choses qui manifestement ne fonctionnent pas, et nous ferons les choses qui fonctionnent.

‍

James Cham (18:36)

Exact.

‍

James Cham (18:36)

Mais alors, vous savez, parfois les choses qui ne fonctionnent pas sont plus faciles à résumer en un tweet.

‍

James Cham (18:42)

Exact.

‍

Bob Sutton (18:44)

C'est aussi l'argument général selon lequel le mauvais est plus fort que le bon.

‍

Bob Sutton (18:46)

Les gens s'en souviennent.

‍

Bob Sutton (18:47)

Ça se propage vite.

‍

Bob Sutton (18:48)

Et c'est aussi un problème avec l'IA : il est vraiment facile de se concentrer sur la partie sombre et sur à quel point ça va être terrible, parce que, en tant qu'êtres humains, ceux d'entre nous qui survivent pour se reproduire sont ceux qui se concentrent sur les mauvaises choses.

‍

James Cham (19:02)

Survécu.

‍

James Cham (19:03)

Exact.

‍

James Cham (19:03)

Oui, c'est juste.

‍

James Cham (19:04)

C'est juste.

‍

James Cham (19:05)

D'accord.

‍

James Cham (19:05)

Alors il y a ce truc, j'ai regardé, j'ai des amis au NBER qui organisaient cette conférence sur l'IA, en partie parce que j'étais très intéressé par la microéconomie de l'IA.

‍

James Cham (19:18)

Et donc ils en ont fait une.

‍

James Cham (19:20)

Ils en font une chaque année, mais ils en ont fait une il y a sept ans où Yann Lecun, qui est, vous savez, un de ces géants, a en quelque sorte donné une conférence.

‍

James Cham (19:26)

Et puis ils ont demandé à Danny Kahneman, ils disent : Danny Kahneman, qu'en pensez-vous ?

‍

James Cham (19:29)

Et Danny Kahneman, qui est.

‍

James Cham (19:31)

Honnêtement, il est genre : je ne sais pas de quoi vous parlez, les gars.

‍

Bob Sutton (19:33)

Et.

‍

James Cham (19:33)

Et il dit quelques choses.

‍

James Cham (19:34)

Et puis c'était il y a sept ans, et il dit ces choses, et elles sont brillantes et choquantes, et elles sont encore plus claires aujourd'hui, donc vous devriez absolument les retrouver.

‍

James Cham (19:43)

Mais une des choses qu'il dit, il est genre : écoutez, la sagesse, c'est une question d'étendue.

‍

James Cham (19:51)

Et puis.

‍

James Cham (19:52)

Donc il y a une manière dont, si nous concevons bien les modèles, les modèles prendront en compte plus de facteurs, et ainsi les modèles seront plus sages que nous, si seulement nous les laissions faire.

‍

James Cham (20:01)

Et puis l'autre chose, il a dit, qui me hante, et je pense qu'il a raison, malheureusement, c'est que les modèles offriront plus de réconfort émotionnel que nous.

‍

James Cham (20:15)

Ce sera tout simplement plus facile.

‍

Bob Sutton (20:16)

Danny était un type intelligent.

‍

James Cham (20:18)

Il avait raison.

‍

James Cham (20:19)

Mais il l'a dit il y a sept ans.

‍

James Cham (20:20)

Je l'ai lu.

‍

James Cham (20:21)

Je me suis dit : c'est ridicule.

‍

James Cham (20:22)

Ça ne peut pas être vrai.

‍

James Cham (20:23)

Et puis maintenant, bien sûr, je pense que c'est juste un monde dont on se sent tout proche, où c'est simplement plus systématiquement gentil avec moi.

‍

James Cham (20:30)

Exact.

‍

Bob Sutton (20:32)

Le dernier livre de Danny, en fait, avec deux autres personnes, qui s'applique vraiment à notre époque aussi, portait sur le bruit, pas sur le biais.

‍

Bob Sutton (20:40)

Et je pense que, quand je pense à l'IA, Rebecca et moi venons de passer quelques mois à tâtonner et à essayer de comprendre ce qui se passe.

‍

Bob Sutton (20:46)

Le bruit semble être le titre principal : il y a tellement de variations, tellement de croyances incohérentes, tellement de succès, tellement d'échecs, et les gens racontent des récits si variés.

‍

Bob Sutton (20:58)

C'est comme entrer dans une dispersion aléatoire d'idées, ce qui est sa définition du bruit.

‍

James Cham (21:03)

Exact.

‍

Bob Sutton (21:04)

Et donc, même là, je veux dire, Danny était tellement intelligent.

‍

James Cham (21:07)

Oui, c'était incroyable.

‍

Bob Sutton (21:09)

Bref, donc Danny, tout simplement époustouflant, était incroyable.

‍

Rebecca Hinds (21:11)

Alors, en pensant au bruit et au changement, nous avons parlé de nombreuses façons dont l'IA est susceptible de changer certains aspects de notre travail.

‍

Rebecca Hinds (21:18)

Quel est un aspect de notre travail ou de notre façon de travailler qui, selon vous, ne changera pas ou ne devrait pas changer ?

‍

James Cham (21:24)

D'accord.

‍

James Cham (21:25)

Pour le meilleur ou pour le pire, il continuera probablement d'y avoir des relations commerciales.

‍

James Cham (21:28)

N'est-ce pas ?

‍

James Cham (21:29)

Les gens seront probablement toujours payés pour quelque chose de bon.

‍

James Cham (21:31)

Ils auront probablement toujours l'argent comme principe organisateur.

‍

James Cham (21:37)

Donc ce sera probablement vrai.

‍

James Cham (21:38)

Enfin, une autre version, c'est que les LLM deviennent si doués pour gérer énormément de variables qu'on se retrouve avec un étrange système de troc.

‍

James Cham (21:45)

C'est possible.

‍

Bob Sutton (21:46)

Oui, c'est possible.

‍

James Cham (21:47)

Peu probable.

‍

James Cham (21:48)

Donc ça restera vrai.

‍

James Cham (21:50)

Il y a une bonne question autour de savoir si les systèmes humains sont dynamiques et dans quelle mesure les humains continueront de modifier ce que nous jugeons précieux.

‍

James Cham (22:02)

Exact.

‍

James Cham (22:03)

Et il est possible que j'accorde plus de valeur à la relation parasociale qu'à la relation sociale.

‍

James Cham (22:11)

Exact.

‍

James Cham (22:12)

Et donc c'est possible.

‍

James Cham (22:13)

Donc peut-être que j'allais avancer l'argument que les gens valorisent encore certaines choses humaines, mais ce n'est peut-être pas vrai.

‍

James Cham (22:19)

D'accord.

‍

James Cham (22:19)

Donc peut-être que la seule chose dont je suis sûr, c'est qu'il y aura des relations commerciales.

‍

James Cham (22:23)

Exact.

‍

James Cham (22:23)

Que les gens continueront d'avoir, genre, un seul chiffre.

‍

Bob Sutton (22:26)

Il y a tellement d'argent pour une certaine variation.

‍

James Cham (22:29)

C'est exact.

‍

Bob Sutton (22:31)

Une cryptomonnaie ou quelque chose comme ça.

‍

James Cham (22:32)

Exact.

‍

Rebecca Hinds (22:33)

Quelle conversation formidable.

‍

Rebecca Hinds (22:34)

Si vous le pensez aussi, abonnez-vous pour ne jamais manquer un épisode.

‍

Rebecca Hinds (22:38)

Merci d'avoir passé ce moment avec nous, et nous vous donnons rendez-vous la prochaine fois sur Intelligence Real and Imagined.

‍