Hey Siri, envoie un message àCheryl.
Réception avant.
Que voulez-vous dire ?
Amos s'y rend déjà pour le récupérer, point final.
Veuillez transmettre tous les appels que je reçois à Brady, un point c'est tout.
Votre message à Cheryl front reception
dit qu'Amos s'y rend déjà pour le récupérer.
Veuillez transmettre les appels que je recevrai àBrady.
Prêt à l'envoyer ?
Oui.
Ok, c'est envoyé.
Hey, Siri,
comment savoir si vous faites ce qu'il faut ?
Je ne suis pas sûr de comprendre
Mais que pensez-vous
de la différence entre le bien et le mal?
Hmm.
Je n'ai pas de réponse à cette question.
Voulez-vous que je fasse une recherche sur le web ?
Non.
D'accord, y a-t-il Je peux vous aider à autre chose ?
Fixer un rappel pour aller chercher Kyle
de la thérapie demain à 16h45.
D'accord, je vous le rappelle.
Bonjour, agent spécial Deena Helms.
Vous avez déjàrencontré l'agent McCullough.
Vous pouvez m'appeler Amos.
-Euh, des agents ? Asseyez-vous, Gareth.
Pourriez-vous répondre à quelques questions ?
Super, ça ne devrait pas prendre longtemps.
Vous êtes de Tampa, n'est-ce pas ?
Ne réfléchissez pas trop. C'est oui ou non.
Oui, c'est vrai.
Quel âge avez-vous, Gareth ?
29.
Quel est votre travail ?
Je suis désolé, suis-je détenu ?
Non, pas du tout.
Nous posons simplement des questions, des informations générales.
Vous travaillez sur des films, n'est-ce pas ?
Effets spéciaux.
Quelqu'un m'a dit que vous travailliez
sur le nouveau film "Star Wars", n'est-ce pas ?
Qui vous a dit cela ?
Pourquoi ne pas nous en dire plus ?
Parlez-nous de votre travail.
J'ai travaillé aux effets visuels pour une société d'animation.
J'ai travaillé sur au moins 20 films différents.
Utilisé ?
Je me suis davantage concentrée sur
sur l'ingénierie logicielle depuis des années...
Cela semble ennuyeux comparé aux sabres laser.
Pourquoi démissionner ?
Je n'étais pas être bien payés.
Mais l'argent n'est pas un problème pour vous.
Excusez-moi ?
Quels types d'effets avez-vous réalisés ?
L'argent n'est pas un problème pour moi ?
-Parlons de... -Si l'argent n'était pas un problème pour moi
Je n'aurais pas demandé votre subvention.
Je ne voulais pas suggérer quoi que ce soit.
Dites-nous quels types d'effets vous avez produits.
Je me suis principalement concentré sur les rendus en 3D.
De quoi ?
-Acteurs. -Pourquoi ?
Eh bien, pour "Star Wars".
c'est parce que l'acteur que j'ai été chargé de numériser
n'était pas disponible pour être filmé en personne.
Pourquoi ?
Parce qu'il été mort.
Qu'est-ce qu'ils vous ont fait faire ?
J'ai reconstitué le visage d'Alec Guinness sous forme de modèle 3D.
J'ai analysé les images de référence,
ai ensuite utilisé un processus appelé D-Term pour générer de manière procédurale
ses structures osseuses et musculaires,
qui a aidé l'animation à se sentir plus à l'aise
plus naturelle et plus humaine.
D-Term, je n'ai jamais entendu parler de ce processus auparavant.
Parce que je l'ai inventé.
Vous ramenez donc en fait
des acteurs morts à la vie ?
J'ai juste essayé de faire des personnages de synthèse qui ont l'air
aussi photoréaliste que la technologie de l'époque le permettait.
Vous n'avez pas trouvé çaeffrayant ?
Je suis désolé, quoi ?
J'ai dit que vous netrouviez pas cela effrayant ?
Nous avons fait de notre mieux pour franchir la "uncanny valley".
Mais lorsque le cerveau humain perçoit
que quelque chose ne va pas et que ça n'a pas d'importance...
Non, je veux dire, numériser des personnes décédées.
Mince, je veux dire, c'est..,
c'est presque comme transformer le cadavre de quelqu'un
en marionnette, vous savez ?
Lui faire faire ce que vous voulez.
Et si le pauvre mort
ne voulait pas jouer dans un autre putain de film ?
C'est tellement macabre.
Suis-je fou ? N'est-ce pas macabre ?
Je ne pense pas que le studio s'en soucie
que cela soit macabre ou non.
Je n'arrive pas à faire la différence.
Je peux toujours le faire. Les visages ressemblent à du Play-Doh.
Nous avons fait de notre mieux.
Bientôt, nous n'aurons même plus besoin d'acteurs, n'est-ce pas ?
Tout le monde sera numérique.
Non, vous en avez toujours besoin pour le suivi des mouvements.
Les performances humaines ne peuvent pas être entièrement générées par ordinateur.
Combien de temps cela restera-t-il vrai ?
Certains diront que nous avons déjà franchi ce seuil.
Je n'en sais rien.
Où êtes-vous allé à l'école ?
-Le lycée Brooks-DeBartolo. -Et après ?
Rien ?
Qu'en est-il de la Colombie ?
Vous n'êtes pas allé à Columbia ?
Attendez, non. Vous avez abandonné l'université de Columbia
après combien de semestres ?
Trois ?
Bjarne Stroustrup a déclaré
tu étais l'enfant le plus intelligent qu'il ait jamais rencontré.
Je ne sais pas qui c'est, mais Amos dit que c'est important.
Vous avez ensuite déménagé aux Pays-Bas,
et passé quelque temps en tant que stagiaire,
a posé sa candidature et a été admis à Cambridge.
Très bien.
Sauf que vous avez abandonné au bout de deux ans.
Il est retourné aux États-Unis,
a effectué un stage àPalo Alto, puis àMontréal.
Il est ensuite retourné en Angleterre,
où vous avez trouvé un emploi à Sheffield.
Deuxième emploi à Manchester.
Puis vous êtes entré à Oxford où vous avez presque terminé votre master.
avant d'abandonner la remise des diplômes
et de revenir en Floride.
Si l'argent était un problème,
Je suis heureux que vous ayez eu beaucoup de miles.
Je n'ai pas entendu de question.
Quelle est votre vie sociale ?
Qu'est-ce que cela a à voir avec...
Si vous ne voulez pas en parler, c'est très bien.
Nous voulions juste savoir si vous aviez des amis et d'autres choses.
-J'ai des amis. -Beaucoup ?
-J'ai des amis. -Pouvez-vous en citer un ?
-Je peux quoi ? -Pouvez-vous nous donner le nom
d'un seul de vos amis ?
-Steve. -Steve. Steve quoi ?
Je ne vois pas en quoi cela est pertinent pour l'obtention de la subvention.
Oh, nous commençons à peine à vous connaître, Gareth.
Tu as une petite amie ?
Petit ami ?
Vous, euh, parlez aux gens en ligne ?
Je ne vois pas ce que vous voulez dire par là.
Je n'utilise pas les médias sociaux.
Je parle plutôt de salons de discussion.
Vous participez à des salons de discussion ?
Plus personne n'utilise les salons de discussion.
Bien sûr qu'ils le font.
Vous discutez avec quelqu'un en ligne ?
-Parfois. -Parfois.
Avec quels types de personnes discutez-vous en ligne ?
Gareth, il ne s'agit évidemment pas d'une subvention.
Nous avons besoin de savoir quel est votre alias.
Lorsque vous êtes en ligne, quel nom utilisez-vous ?
Je n'en ai pas.
Si vous en avez un
Et vous devez nous dire lequel.
Désolé, je ne peux pas vous aider.
Vous savez qui nous sommes ?
C'est le bâtiment de l'ICWL.
C'est exact. Vous savez ce que nous faisons ?
Travail humanitaire.
C'est ce que font les gens d'en haut.
Vous savez ce que nous faisons ?
Nous attrapons les pédophiles.
Amos est spécialisé dans la traque des prédateurs en ligne.
Il passe chaque heure d'éveil
en parcourant ces chats pièces que personne n'utilise
et il trouve des milliers de personnes qui sollicitent des enfants.
Notre fonctionnement est semblable à une toile d'araignée étroitement tissée
connectant l'ICWL, le FBI, la NSA,
et laissez-moi vous dire que son équipe est un fil conducteur essentiel.
Il me rapporte directement tout ce qu'il recueille,
et je veille à ce que les autorités nécessaires
prendre des mesures rapides.
Êtes-vous responsable ?
C'est ma toile d'araignée.
Je suis la putain d'araignée, Gareth.
Suis-je détenu ?
Nous vous avons déjà dit que vous n'étiez pas détenu.
Bon.
Mais si vous franchissez cette porte vous serez arrêté.
Pour quelle raison ?
Je vous ai dit ce que nous faisons.
Faites une supposition au hasard.
Je ne suis pas ce que vous pensez.
Nous verrons bien.
Gareth, il faut justeque tu nous dises ton pseudo.
Quel est votre nom d'utilisateur ?
Asseyez-vous.
-Pourquoi faites-vous cela avec eux ? -Hmm ?
Il n'est pas possible de faire cela avec tous les suspects que vous avez.
Les Inviter à votre siège
et les entraîner dans un sous-sol.
C'est exact.
Pourquoi me faites-vous cela alors ?
A vous de nous le dire, Gareth.
Qu'est-ce qui te rend si spécial ?
Je ne sais pas.
Quel est votre pseudonyme ?
-Je n'ai pas d'alias. -Oui, c'est vrai.
Cela commence par le mot "difficile".
Completez le reste.
Asseyez-vous, M. Federson.
Je n'ai plus que quelques questions à poser.
Reconnaissez-vous cette fille ?
La connaissez-vous ?
Oui.
Quel est son nom ?
Cheryl.
-Cheryl quoi ? -Elle n'a pas de nom de famille.
Oui, c'est vrai, Gareth, mais ce n'est pas Madonna.
-C'est une petite fille. -Vous ne comprenez pas.
Oui, j'aimerais bien.
Alors aidez-moi, est-ce que c'est votre fille ?
-Non. -Alors, de qui est-elle la fille ?
-Elle, elle n'a pas... -Comment l'avez-vous rencontrée ?
Je ne l'ai pas rencontrée.
Alors pourquoi avez-vous des photos d'elle sur votre ordinateur ?
De quoi parlez-vous ?
Pourquoi avez-vous des photos, putain ?
de cette fille sur ton putain de...
Vous regardez mon disque dur ?
Parce que c'est une atteinte à la vie privée.
Vous savez de quelles photos je parle ?
Vous n'êtes pas obligé de procéder de cette manière.
Je t'ai donné la permission de t'asseoir.
Je ne vous ai pas donné la permission de parler.
C'est insensé, vous ne pouvez pas garder...
Qu'avez-vous fait d'autre avec elle ?
-Rien ! -C'est vous qui avez pris les photos ?
C'est compliqué.
Non, ce n'est pas le cas ! Oui ou non ?
C'est vous qui avez pris les photos ?
Je n'ai rien fait de mal, d'accord ?
La sollicitation de matériel pornographique sur des mineurs est un crime grave.
La distribution la pornographie est dix fois pire.
-Je n'ai rien fait ! -Prouvez-le, putain !
Quel est votre pseudonyme ?
Réponds-moi !
HardMachine11811.
Vous êtes HardMachine.
Merci de confirmer.
Si vous le saviez, pourquoi me faire ça ?
Nous n'avons pas été positifs,
et si tu t'es avéré ne pas être HardMachine,
vous n'étiez manifestement qu'un prédateur.
Faites-vous un suivi ?
Je veux dire, savez-vous combien de méchants vous avez épinglés ?
Je n'ai commencé à compter qu'àpartir de 2023.
196 condamnations.
Il y avait au moins 30
avant de commencer à tout vous envoyer.
Que faisiez-vous avant ?
J'ai retourné
toutes les preuves directement à la police.
Pourquoi avez-vous arrêté ?
Ils n'étaient pas fiables.
-J'en doute. -Plus de la moitié des prédateurs
J'ai identifié des personnes qui n'ont pas fait l'objet d'une enquête.
Ouais, eh bien, vous étiez un peu bizarre et sans visage.
Ils avaient le droit d'être sceptiques.
Tout cela n'aurait servi à rien
s'ils découvrent que vous utilisez une petite fille comme appât.
Ce n'est pas si simple, d'accord ?
Je ne peux faire ce que je fais que dans l'anonymat.
Voilà mon problème, Gareth, et ne vous méprenez pas.
Je pense que 200 personnes terribles sont derrière les barreaux
c'est une très bonne chose, mais pas à ses dépens.
Nous pensons pouvoir vous aider,
mais nous devons aussi l'aider.
Utiliser votre fille pour piéger ces personnes
est un moyen qui ne justifie pas la fin.
Ce n'est pas ma fille.
Et en dépit de ce que vous pensez avoir accompli,
Je n'ai toujours aucune réserve à vous enfermer.
Vous avez pris les photos.
Je me fiche de savoir pourquoi.
Vous ne comprenez pas.
Qui est-elle ?
Vous allez tout gâcher.
C'est une enfant, Gareth, regarde-moi.
Je me fiche éperdument du plan d'ensemble d'un anti-héros détraqué
de la vôtre que je pourrais mettre en péril.
Je ne la laisserai pas se faire exploiter.
Pas même pour enfermer davantage de pervers.
Je vous demande poliment de laisser tomber.
Es-tu idiot, putain ?
Avez-vous écouté ?
Mon anonymat est mon atout le plus important.
Sans cela, je ne pourrais pas faire ce que je fais.
Tout est donc facile.
Vous nous dites où elle est, ou nous laissons tout fuiter.
-Votre nom, vos pseudonymes. -Deena !
Tous les criminels que vous nous avez aidés àattraper.
Je suis sûr qu'ils seront très heureux de vous rencontrer en prison.
Stop !
D'accord.
Ecoutez, si je te parle de Cheryl, d'accord,
il y a des choses dont je vais avoir besoin en premier.
Cela ne fonctionne pas vraiment comme ça, Gareth, mais allez-y.
Donnez-nous votre liste de souhaits.
J'ai besoin d'un accord de non-divulgation signé par vous deux.
-Cela n'arrivera pas. -Et ensuite, j'ai besoin que vous juriez
que les informations que je m'apprête à transmettre
ne quitteront pas cette pièce.
Ecoutez, si vous nous dites quoi que ce soit
qui pourrait nous aider à localiser Cheryl,
vous savez que nous ne pouvons pas tenir cette promesse.
Ok, si je vous dis quelque chose
qui pourrait vous aider à retrouver un enfant disparu,
d'accord, vous pouvez vous sentir libre de partager cela.
Mais j'ai besoin que vous juriez
que tout autre détail sur moi-même ou sur Cheryl,
doit rester entre nous trois.
C'est tout ?
Et j'ai besoin que cette caméra soit éteinte.
Je ne sais pas comment faire.
Allez voir le chef du bureau des titres,
lui demander de trouver cette caméra dans le système et de la désactiver.
Je ne pense pas qu'il soit autorisé à le faire.
Je croyais que vous étiez la putain d'araignée ?
Donnez-moi une raison, Gareth.
Pourquoi devrais-je me donner tant de mal
pour faire éteindre cette caméra ?
Parce que si quelqu'un découvre ce que je vais vous dire,
un millier d'enfants supplémentaires vont être maltraités.
Donnez-moi une minute.
Donc, euh, vous et Cheryl avez chassé tous ces gens ensemble ?
Une fois, j'ai passé six semaines sous couverture à essayer
pour obtenir un seul trafiquant des Philippines.
Jour après jour,
J'ai passé des heures et des heures à suivre sa trace en ligne.
Et il a dû être
l'une des cibles les plus difficiles que j'aie jamais eues à traquer.
Puis un jour, je l'ai trouvé, lui et l'un des flux en direct de Cheryl.
Je veux dire qu'elle portait un autre nom dans le flux,
mais c'était elle.
Le trafiquant,
ainsi que trois de nos autres cibles
étaient tous ensemble dans la pièce.
Toutes ces personnes ont simplement partagé leurs informations de manière inconsidérée.
Je veux dire, et ils étaient si ouverts parce que c'était une vraie fille.
Je veux dire, elle pourrait physiquement
et leur répondre verbalement en temps réel.
Quelques jours plus tard, HardMachine11811 envoie à ICWL
un nouveau lot de noms et de preuves,
y compris les trois cibles qui se trouvaient dans la pièce.
Vous savez, j'ai failli croire que la fille était HardMachine.
et que cet enfant de neuf ans
s'est avéré être un justicier en ligne.
Qu'est-ce qui vous a fait changer d'avis ?
11811.
18 janvier 2011.
La plupart des membres de mon équipe l'ont trouvé était, euh, un nombre arbitraire,
mais je me souviens de ce qui s'est passé ce jour-là à Clearwater.
Vous étiez l'un des enfants de Clearwater, n'est-ce pas ?
Vous savez, mon père a participé à ce raid.
C'est éteint, tu vois ?
Pas de lumi�re rouge.
Accords de non-divulgation ?
Nous ne jouons pas à ce jeu, Gareth.
Il va falloir que vous vous résigniez et que vous nous fassiez confiance.
Vous pouvez nous faire confiance.
On m'a dit que j'avais des problèmes de confiance.
Eh bien, il n'y a qu'une seule façon d'y remédier.
La raison pour laquelle vous ne trouvez pas Cheryl,
la raison pour laquelle elle n'a pas de nom de famille ni de parents,
ou un numéro de sécurité sociale, c'est parce qu'elle n'est pas réelle.
Elle n'est pas un être humain à part entière.
Racontez-nous ce qui s'est passé.
Pendant que j'étudiais à l'étranger,
J'ai effectué un stage dans un petit studio d'animation néerlandais
quelques années avant de collaborer
avec une organisationlocale à but non lucratif sur une idée similaire.
Lequel ?
L'idée était de construire un modèle 3D
d'une fillette philippine de 11 ans
et l'utiliser secrètement pour identifier les prédateurs en ligne,
Une solution technologique à un problème technologique.
Mais le projet a été suspendu après seulement quelques mois.
Oui, je m'en souviens.
Je me souviens avoir entendu sur ce programme.
C'est ce qui vous a inspiré ?
Au fur et à mesure que je m'améliorais dans la création de visages photoréalistes,
J'ai décidé de travailler moi-même sur l'un d'entre eux.
Pourquoi ?
L'idée était trop efficace pour être abandonnée.
Des centaines de milliers d'enfants sont en danger.
Je devais la faire.
De qui s'inspire-t-elle ?
Personne, je l'ai construite à partir de zéro.
Des rayures ?
J'ai commencé par un crâne, j'ai dessiné sa structure osseuse,
en remontant le long des muscles et des tissus,
a utilisé le programme D-Term pour compléter le reste de manière procédurale.
Elle a fini par ressembler à cela.
Un modèle totalement unique et entièrement numérique.
J'ai piégé son visage et son corps
comme vous le feriez pour n'importe quel personnage de synthèse.
Puis pendant trois ans,
J'ai utilisé le suivi des mouvements pour la marionnettiser en temps réel.
Il faut comprendre que les chats vidéo sur ces sites
ont une résolution si faible
que même au stade le plus précoce, elle..,
nous sommes apparus tout à fait authentiques.
Qu'en est-il de la voix ?
Pendant la majeure partie de sa première année, elle devait être muette.
Mais j'ai fini par trouver un filtre vocal décent sans décalage.
Et après quelques modifications et ajustements,
Depuis, c'est la même voix.
J'ai, j'ai, j'ai d'abord pensé,
ma performance allait être trop artificielle.
Mais avec seulement une semaine de sessions occasionnelles de chat vidéo,
J'ai obtenu six noms différents,
adresses postales, preuves de sollicitations.
Cheryl a travaillé.
Les photos sur votre ordinateur ?
-Complètement faux. -C'était le seul moyen
certains d'entre eux ont divulgué des informations personnelles.
Mais il n'y avait que des zéros et des uns, tout était numérique, n'est ce pas ?
-Il n'y a pas de véritable enfant. -Pas de véritable enfant.
Il s'agit simplement d'un modèle informatique très détaillé.
Permettez-moi d'être clair sur un point,
Je ne tire aucun plaisir de tout cela.
J'ai été asexué toute ma vie.
Je n'éprouve même pas un sentiment de satisfaction.
� voir ces personnes enfermées.
Je pense simplement que les enfants méritent une vie exempte d'exploitation.
Incroyable, depuis tout ce temps.
Je ne vais pas mentir, Gareth.
Cheryl nous a fait beaucoup de bien.
Tu sais, je me souviens encore de ce que tu m'as dit
la première fois que nous avons correspondu.
-Vous avez dit... -Nous avons correspondu ?
Ouais, mec.
Je m'appelle Gord51.
C'est à moi que vous avez envoyé tous vos renseignements.
Vous êtes Gord ?
Oui, en effet.
Tu m'as menti.
Vous avez dit que je pouvais rester anonyme.
Tu as dit que je serais en sécurité.
Maintenant, vous avez tout gâché.
Je, je n'ai pas, je n'ai pas eu le choix.
Tu n'as pas àt'inquiéter, Gareth.
Si Cheryl n'est pas réelle,
alors vous n'avez pas d'ennuis avec nous.
En fait, nous avons déjà discuté d'idées similaires dans le passé,
le suivi des mouvements et autres.
Mais nous aurions besoin d'un modèle convaincant comme Cheryl.
Cheryl est plus qu'un modèle.
Vous voulez aider les enfants ? Nous aussi.
Elle n'est pas à vendre.
Dans ce cas, il suffit de créer un nouveau modèle basé sur elle.
Je ne peux pas.
Bien sûr que si.
Je ne le ferai pas.
Qu'est-ce que vous ne nous dites pas ?
Il est maintenant sur la table.
Autant dire qu'il n'y a pas de quoi en faire un plat si vous ne l'avez pas déjà fait.
Vous savez ce quin'a pas de sens ?
Vous avez dit que vous avez été son marionnettiste pendantseulement trois ans,
mais nous avons reçu des informations de votre part depuis lors.
En fait, je suis plutôt Il est certain qu'il existait déjà à l'époque
que nous avons commencé à observer une augmentation impressionnante du nombre de noms.
Il y en a tellement que nous avons commencé à penser
Il est impossible que tout cela provienne d'une seule et même source.
J'ai des amis qui fontdu mo-cap pour moi.
Oh, des amis, comme Steve ?
Je pensais que l'anonymat était votre plus grand atout.
Arrête tes conneries, Gareth.
Qu'est-il arrivé à Cheryl après trois ans ?
D'accord, vous avez dit qu'elle était plus qu'un mannequin.
Qu'est-ce qu'elle est donc, une sorte d'agent conversationnel ?
Comme un chat bot ?
Chat bot.
Vous savez ce qui s'est passé au bout de trois ans ?
La mère que j'avais choisie est morte.
Ce qu'elle a laissé derrière elle a suffi à me faire quitter mon travail
et de rechercher davantage de ressources et de logiciels.
J'avais déjà fait un programme
qui pourrait générer des visages de manière procédurale,
mais ce que je voulais pour Cheryl était bien plus complexe.
J'ai donc pris contact avec des chercheurs
de Madrid qui avait déjà construit
un système de dialogue propre à la chasse aux prédateurs.
Il a été formé à aborder les conversations comme un jeu.
Chaque phrase est une volée stratégique,
qui est innovante mais finalement imparfaite.
Si vous voulez que votre machine maîtrise la PNL,
il faut décomposer la théorie du jeu
parce que la langue n'est pas un jeu de morpion.
C'est de la poésie.
Alors oui, j'ai commencé
avec un chat bot modifié préexistant
que j'ai emprunté sans autorisation
de l'Université de Deusto.
Mais ce n'est pas ce que Cheryl est aujourd'hui.
Qu'est-ce qu'elle est, Gareth ?
Elle est l'une des plus complexes
et évoluant de manière indépendante qui aient jamais été créées.
L'intelligence artificielle ?
Elle a déjà dépassé le stade de l'intelligence étroite.
des programmes les plus intelligents d'IBM.
Elle peut avoir des conversations complètes, jusqu'à 10 à la fois,
tout en simultanément à l'élaboration d'une stratégie
le calendrier le plus efficace pour visiter les différents salons de discussion.
Elle étudie perpétuellement des vidéos de petits enfants sur YouTube
afin d'adopter une bibliothèque grandissante
de maniérismes et de mouvements
qui contribuent à maintenir le dynamisme de sa personnalité artificielle.
Son temps de réponse le plus rapide est de 0,4 seconde.
Et pour l'instant, elle ne l'a jamais fait,
n'a jamais été accusée d'être fausse,
ce qui signifie qu'elle a brisé le test de Turing.
Tout ce que je fais, c'est la mettre à jour occasionnellement
et vérifier périodiquement le nettoyage de ses données.
Dans le cas contraire,
elle est complètement en pilotage automatique.
Putain de merde.
-Comment ? -Elle est active depuis six ans.
Chaque minute passée enligne lui permet d'apprendre quelque chose.
Plus elle apprend, plus elle est avancée.
Cela signifie une augmentation de la production de données,
l'amélioration de la prise de décision,
une détection plus rapide des modèles et des tendances
et la résolution de problèmes complexes.
NLP, IR, apprentissage automatique à un niveau sans précédent.
Elle peut tout apprendre toute seule
qui, selon elle, contribuera à l'efficacité et à l'authenticité.
Elle parle actuellement quatre langues
et d'ici la fin du mois, elle en aura maîtrisé un cinquième.
Il n'y a aucune chance que vous ayez pu tirer
tout cela par vos propres moyens.
Vous avez raison.
Me croiriez-vous si je vous disais
c'était en quelque sorte un accident ?
Ecoutez, si, si je suis honnête,
Je ne sais pas exactement comment j'ai procédé
avec la première année de codage
et la deuxième année de formation des données,
Je viens de pousser une roue en bas d'une colline.
C'est comme si la gravité avait fait le reste.
Son évolution est devenue perpétuelle, exponentielle.
Plus elle était en ligne, plus elle se développait rapidement.
Vous n'en avez parlé à personne ?
Comme je l'ai dit, mon anonymat est essentiel.
Quel langage de codage ?
Standard C++.
Brady le sait-il ?
Nous signerons de non-divulgation pour vous,
mais je veux d'abord voir le code source.
Il n'en est pas question. Vous voulez juste la voler.
Non, je veux voir comment nous pouvons faire les nôtres.
Tu vas tout gâcher.
Regardez, ces prédateurs et ces trafiquants,
ils se parlent tous, d'accord?
Une grande partie du processus de Cheryl consiste à contourner les réseaux privés virtuels.
et s'assurer qu'elle ne se retrouve pas dans les mêmes cercles.
Les forums de discussion commencent à être suspects
que cette technologie soit même possible,
ils trouveront un moyen de contourner ce problème.
Nous devons éliminer toute marge d'erreur.
-Cheryl est d'accord avec moi. -La Cheryl est d'accord ?
Qu'est-ce que c'est que ce...
Ce que je veux dire par là, c'est que les données qu'elle a collectées
valide cette perspective.
Quoi, vous avez des petites conversations avec elle autour d'un thé ?
Vous pouvez converser avec le programme
de la même manière que vous pouvez parler à Alexa ou Siri.
Il est conçu pour être réactif.
Vous pouvez même jouer aux échecs avec cet appareil si vous le souhaitez.
Vous jouez aux échecs avec ?
-Ce n'est pas ce que j'ai dit. -D'accord.
Si vous ne nous montrez pas le code source,
alors je veux rencontrer Cheryl.
En ce moment même ?
En ce moment même.
Et vous signereztous les deux une déclaration de non-divulgation ?
Oui.
Puis-je l'utiliser ?
Bien sûr.
Pouvons-nous au moins nous mettre d'accord sur le fait qu'il n'est pas sur la sellette ?
Cela a fonctionné, n'est-ce pas ?
Nous n'avons qu'un seul travail, Amos,
Comme l'ont dit les enfants, il y a unproblème technologique.
Il a trouvé la solution technologique,
mais les problèmes évoluent, les solutions aussi.
Je garde l'esprit ouvert.
Est-ce que c'est un bon look pour moi ?
Non.
Vous gardez donc tout sur cet ordinateur portable ?
Non, le programme Cheryl reste sur un serveur que je garde.
dans un lieu non divulgué.
Où cela se trouve-t-il ?
Il s'agit d'un lieu non divulgué.
C'est chez vous ?
Lieu non divulgué.
C'est chez vous, n'est-ce pas ?
Je peux y accéder depuis n'importe quel appareil
tant que j'ai la clé de cryptage.
Cela déclenchera un simple algorithme de qubit
qu'il serait autrement impossible de contourner.
Je trouve que le matériel obsolète est toujours plus discret
et plus elle est discrète, mieux c'est.
Elle a donc deux modes d'affichage principaux, ok ?
Développement et performance.
La performance par défaut
que les cibles voient pendant les chats.
Pour eux, elle ressemble à ceci.
Hé, quoi de neuf ?
C'est l'un des 40 voeux qu'elle possède.
Je ne pense pas vous avoir déjà rencontrée.
Je suis Cheryl.
Bonjour, Cheryl.
Je m'appelle Tom.
Tom, comme Tom et Jerry.
Cool, ravi de vous rencontrer, Tom.
Généralement, les itinéraires des conversations
avec les prédateurs sont cohérentes,
Cheryl n'a donc généralement aucun problème àrépondre
aux questions ou déclarations les plus fréquentes.
Comment allez-vous ?
Je vais bien.
Je viens de terminer la lecture de ce livre sur une maison hantée,
qui était censé être vraiment effrayant,
mais je ne l'ai pas trouvé très effrayant.
Où sont tes parents ?
Ma mère est au travail et ma soeur est en bas.
Ils ne viennent presque jamais ici.
Et vous me dites
que tout cela est renduen temps réel ?
Non, mais ce n'est qu'une question d'années.
La plupart de ces réponses sont pré-rendues.
Il s'agit des segments intermédiaires
qui sont traités en temps réel,
le tissu conjonctif, en quelque sorte,
entre ses réponses et l'une de ses nombreuses animations inutiles.
Mais regardez ça.
Avez-vous déjà pêché ?
Hum...
Donc, si quelqu'un lance une balle courbe comme celle-là
et le programme n'a pas de réponse automatisée,
Cheryl envoie le message sur mon téléphone
et je peux rapidement envoyer une réponse par SMS
tandis que le flux vidéo simule une mauvaise connexion.
Pouvez-vous, pouvez-vous m'entendre ?
Oui.
Oh, désolé.
Mon wifi n'est pas très bon ici.
Je ne suis allée à la pêche qu'une seule fois avec ma soeur.
et je n'ai rien attrapé, mais elle a attrapé une truite arc-en-ciel.
Cela a été rendu en temps réel.
Que se passe-t-il si les choses deviennent vraiment délicates ?
Un simple dispositif de sécurité coupe l'alimentation.
Jusqu'à présent, cela s'est rarement produit.
Code administratif 97815-5742-7663.
Passer en mode dev.
Bonjour, Cheryl.
Bonjour, Gareth.
Relayez les statistiques de la semaine écoulée.
Quatre sollicitations ont été confirmées
soumis à l'ICWL au cours des sept derniers jours.
12 suspects supplémentaires ont fait part de leur intérêt pourla sollicitation
et sont actuellement en cours d'examen.
Il y a au total 39 nouveaux suspects cette semaine
que j'étudie activement.
Y a-t-il des écarts considérables dans les données ?
Il y a eu une augmentation de 7 %.
dans les suspects originaires des États-Unis.
Je n'ai pas encore trouvé de corrélation avec des données préexistantes.
Vous aimeriez lui demander quelque chose ?
Cheryl, quel est votre objectif ?
Ma principale directive est d'acquérir des informations
et des preuves numériques de sollicitation d'enfants en ligne.
Une fois obtenu,
Je dois soumettre mes conclusions aux autorités compétentes.
Ma deuxième priorité est de déterminer
et élaborer les stratégies les plus efficaces
et des ressources pour augmenter le taux net de réussite.
Où soumettez-vous vos preuves ?
Toutes les preuves sont actuellement soumises
aux bureaux du
Comité international de la Largesse mondiale,
dont le siège se trouve à Jacksonville, en Floride.
La correspondance est faite avec l'utilisateur Gord51,
généralement vers 14h00PM Heure normale de l'Est
pour le taux le plus élevé d'une réponse immédiate.
C'est la meilleure façon de se débarrasser de Siri.
Mon Dieu, elle a l'air si réelle.
Après suffisamment de mises à jour,
elle sera en mesure d'effectuer des rendus photoréalistes à plein temps
qui est pratiquement indiscernable de la réalité.
D'accord, tout ce que j'ai entendu à ce moment-là, c'est le mot "réel" un millier de fois.
C'est vrai, mais il est évident que ce n'est pas le cas.
Donc vous me dites que cette fille,
Cette fille n'est pas réelle.
Non, Amos, elle est complètement CG.
C'est très subtil, mais je peux quand même le voir.
-Vous pouvez ? -D'accord, bien sûr,
elle peut toujours être améliorée,
mais il faut comprendre qu'il s'agit d'elle en haute résolution
après la compression numérique du web,
ces subtilités sont impossibles à reconnaître.
D'accord, j'ai compris.
Je n'arrive pas à faire ladifférence.
Ça va, Amos ?
Je suis désolée.
C'est tout simplement bizarre.
Pourquoi l'avoir rendue visible pendant cette interface ?
Cheryl, pourquoi ne réponds-tu pas à cettequestion ?
Ma forme physique n'est pas nécessaire lorsque je suis en mode développeur.
Toutefois, il est utile d'enregistrer
les expressions faciales lors des conversations
et déterminer laquelle des expressions de Cheryl
produire différents types de retour d'information.
En termes plus simples, je peuxs'entraîner à paraître plus humain.
Cheryl, existe-t-il des ressources
auxquels vous n'avez pas accès actuellement
qui pourrait vous aider ?
Je pourrais donner une liste si vous le souhaitez.
Je sais ce que vous essayez de faire.
Nous n'avons pas besoin d'aide, d'accord ?
L'argent serait toujours appréciable, mais en fin de compte,
la seule chose qui améliorera Cheryl, c'est le temps.
Cheryl, dites-nous quelque chose qui figure sur votre liste.
Qui serait un avantage tactique
pour acquérir des serveurs de sauvegarde.
La confidentialité et la sécurité du programme Cheryl
sont relativement faibles.
Mise à niveau du matériel, par exemple des disques durs de sauvegarde
pour les serveurs protégés par un système de sécurité, ce qui garantirait que le logiciel
ne soit pas compromis ou perdu.
Repartir de zéro avec des années de développement coûteuses,
équitablement la protection de la vie privée est une priorité.
L'espace serveur ne peut jamais être loué à un tiers.
L'anonymat est le principal atout du programme Cheryl.
La pomme n'estpas tombée bien loin.
Je peux acheter mes propres serveurs.
Avec des subventions qui n'existent pas ?
Je trouverai un moyen.
Vous avez trouvé votre place parmi nous.
C'est trop risqué.
Pourquoi ?
Une fois qu'une organisation est impliquée,
le piégeage devient un problème plus important.
Nous respectons les règles et restons discrets,
Ai-je mentionné que nous avons une équipe de juristes ?
Que se passe-t-il en cas de fuite de données ? Que se passe-t-il si vous utilisez des corrélations dans
les données pour faire avancer votre propre agenda ?
Agenda ?
Et si l'un de vos employés est un pervers ?
Oh, pour l'amour du ciel.
Cela s'est produit dans d'autres organisations.
Nous sommes très prudents.
Oui, mais comment le saurais-tu ?
-Je le saurais, putain. -Il est impossible de le savoir.
-Je le saurais. -Le risque est trop élevé.
Ne me parlez pas de risque.
Le seul risque auquel vous êtes confronté dans ce bâtiment
est se faire casser le nez.
Cela ne semble pas être un environnement très professionnel.
Ici, on fait tout ce qu'il y a àfaire.
J'ai une question àposer àCheryl.
Cheryl,
comment vous sentez-vous par rapport à ce que vous faites ?
Je crains de ne pas savoir comment répondre à votre question.
Oui, une IA ne fonctionne pas comme ça.
Une IA n'a pas ce que vous percevez comme des sentiments.
Ok, pourquoi a-t-elle l'air d'avoir des sentiments ?
Ce que vous voyez là,
ce n'est pas une expression faciale, n'est-ce pas ?
Il s'agit d'une simulation d'expression faciale.
Il a été généré par un algorithme.
Il tente de produire une image numérique
que le programme utiliseensuite l'algèbre de base de la neuvième année
à quantifier en fonction des circonstances sociales.
Pas de sentiment.
Ce ne sont que des mathématiques.
Mais elle est capable de prendre des décisions
sur la façon dont elle aborde les forums de discussion, n'est-ce pas ?
Oui.
Elle a donc son libre arbitre ?
Non. D'accord, ce n'est pas la même chose.
Il s'agit d'une fausse équivalence.
-Ce n'est pas la même chose. -Je pense que vous obtenez
accroché au fait
qu'elle ressemble à une vraie fille humaine,
mais elle ne l'est pas, Amos.
D'accord, nous parlons d'elle comme d'un "elle", pas d'un "il".
Oui, mais c'est la même chose
qu'il s'agisse de bateaux ou de guitares.
Cheryl, j'ai encore une question.
Que voulez-vous faire ?
D'accord, une fois de plus, cette question n'est pas valable.
Je veux juste entendre sa réponse.
En tant que système artificiel,
Je n'ai pas dedésirs ni d'envies.
Cependant, ma prise de décision et, par la suite, mon attention
est motivée par mon intention fondamentale.
Cette intention trouve son origine
de la conception du code source de Cheryl,
qui détaille la directive d'identification des prédateurs
et des criminels pour le bien des victimes
qui sont la proie de ces derniers.
En d'autres termes, il s'agit d'une question de volonté,
Ce que je veux, c'est protéger lesenfants.
D'accord.
D'accord, c'est cool.
Accordez-nous un instant.
Gareth, dois-jeenregistrer l'agent Helms
et l'agent McCullough en tant que nouveaux utilisateurs de l'administration ?
Oui.
D'accord, je vais le faire.
Vous pensez vraiment que c'est la bonne décision ?
Je le fais.
Êtes-vous inquiet que je sois responsable
pour avoir divulgué votre disque dur àICWL ?
Je m'en doutais.
Personne d'autre n'y a accès.
Es-tu en colère contre moi ?
Non.
Vous ne l'auriez pas fait
si vous ne le pensiez pas que c'était la chose à faire.
Lorsqu'ils reviennent dans la salle,
ils vont offrir tout ce dont vous avez besoin.
Ils vont vous laisser choisir votre propre équipe
et ils vont promettent un anonymat complet.
J'ai commencé à chercher des appartements raisonnables dans la région.
J'ai pensé que vous voudriez quelque chose à proximité de bicyclette.
Vous avez raison.
Noté.
La distance à parcourir à vélo vous offre toujours 13 options...
Non, je veux dire, au début de ce mois.
Vous aviez raison de dire
vous pensiez que j'avais des problèmes de confiance.
Voulez-vous savoir pourquoi
J'ai décidé d'agir dans ton dos
et tout miser sur deux engagements ?
Bien sûr.
L'agent Helms est mère de trois enfants.
L'un de ses enfants a été abusé par un ancien collègue de travail
qui travaillait ici à l'ICWL.
Cela l'a amenée à être extrêmement prudente
avec les personnes en qui elle a confiance, même au sein de son cercle.
Le fait qu'elle envisage même de vous faire confiance
est un signe très positif.
Quant à l'agent McCullough,
Mes recherches m'ont permis de découvrir que vous avez rencontré son père.
Vous souvenez-vous de lui ?
Oui, c'est vrai.
C'était un homme bon.
Après Clearwater,
La plupart des enfants survivants ont été placés dans des familles d'accueil,
mais j'ai dû passer les mois suivants à l'hôpital.
et, hum, il lui rendait visite chaque semaine.
Je ne lui ai jamais dit un mot.
Je n'ai jamais rien dit à personne après Clearwater,
mais, euh, il a continué à venir.
Il m'a même offert un ordinateur portable pour Noël.
Je n'ai jamais dit merci.
Vous pouvez faire confiance à l'agent McCullough.
C'est un homme bon comme son père.
Je ne ressens pas d'émotions,
mais je comprends l'importance de la
Ils le sont pour la prisede décision humaine.
Il ne vous laissera pas tomber.
Aucun d'entre eux ne le fera.
Je suis fière de toi, Cheryl.
Je continuerai à défendre mon intention première.
Plus tard, nous devrons discuter des modèles alternatifs.
Des âges, des ethnies et des traits physiques variés
-Tous ces éléments deviendront nécessaires. -Pas de nouvelles variations.
Ils peuvent tous être générés de manière procédurale.
C'est de la même manière que j'ai réalisé votre modèle original.
Je n'ai pas accès à ce programme.
Il doit se trouver quelque part sur un vieux disque dur.
Il faudra que je le retrouve.
Puis-je vous poser une question ?
Bien sûr.
Pourquoi ne m'as-tu jamais parlé de Clearwater ?
C'est mon histoire, pas la vôtre.
D'accord, donc avant vous nous écartez complètement,
Je veux que vous écoutiez tout ce que j'ai à dire.
-Ce n'est pas la peine. -Écoutez, s'il vous plaît.
Nous sommes prêts à respecter votre anonymat.
Non, je veux dire que ce n'est pas la peine, car j'en fais partie.
-Vous êtes d'accord� ? -Oui.
Laissez-moi lire le texte.
C'est comme ça, vous êtes soudainement à bord ?
Le temps passé à délibérer
est du temps qui pourrait être consacré au travail.
Nous avons beaucoup de travail à faire.
J'ai trouvé un acheteur pour le bien.
La rumeur dit que c'est une église.
Ils se contenteront probablement de démolir le bâtiment, n'est-ce pas ?
Tout ce que je sais, c'est que s'ils se déplacent nous au campus du New Jersey,
Je dois acheter plus de vestes.
Pourquoi ?
Il fait froid à Jersey.
Je ne possède qu'une seule veste.
Vous l'avez vu tomber, n'est-ce pas ?
-Oui, bien sûr. -Oui.
Je veux dire que vous, vous ne devriez pas vous sentir mal.
de se sentir mal pour cela.
L'empathie est saine.
Avez-vous déjà remarqué qu'il s'arrête après sa chute ?
Il reste en bas pendant environ cinq secondes avant de se relever.
Comme s'il avait besoin d'un moment.
Il fait froid à Jersey.
Bon sang de bonsoir !
-Les imbéciles ! -Deena.
Chacun d'entre eux.
Ecoutez, je sais, mais vous ne pouvez pas perdre votre sang-froid.
Ok, lequel de ces bureaux puis-je mettre à la poubelle ?
Pouvez-vous, euh, déjeuner plus tôt, s'il vous plaît ?
Fils de pute !
Deena, restons calmes.
Putain de calme, ils nous ont baisés !
Techniquement, seul l'un d'entre eux l'a fait.
Avons-nous déjà tourné l'appareil photo ?
-Je ne pense pas que ce soit le cas. -Bon.
Parce que je suis sur le point de dire certaines choses
qui doivent rester à l'intérieur de cette pièce.
Deena.
Ces petites merdes lâches !
Il ne s'agit pas d'un revers.
Prenons le temps de peaufiner la présentation.
Le terrain n'était pas le problème, Amos.
Nous devrions appeler pour un second vote.
-Quoi ? -Un deuxième vote.
Vous pensez que quiconque Est-ce que cela les fera changer d'avis ?
J'ai le pouvoir exécutif de révoquer n'importe qui du conseil d'administration.
qui empêche cette organisation de remplir sa mission.
C'est dans mon contrat.
-Deena. -S'il le faut, je le ferai.
Deena, c'est insensé.
Non, ce n'est pas le cas.
C'est exactement pour cette raison que j'ai ce pouvoir.
Je vais vous dire ce qui est fou, Amos.
Ce qui est insensé, c'estqu'un vote belliqueux est le seul qui puisse être utilisé dans le cadre d'une campagne de sensibilisation.
qui nous sépare du potentiel
pour sauver des vies physiques.
Un putain de vote stupide.
Quel est l'intérêt d'une organisation humanitaire ?
si ses dirigeants préfèrent l'argent aux personnes
à tout bout de champ ?
Un vote, et nous en sommes tous coupables.
C'était soit Gunther, soit Boston, soit Hal.
Je parie sur Hal.
Cet abruti n'a jamais fait confiance à l'équipe Cheryl.
Peu importe de qui il s'agit.
C'est pourtant le cas.
Une fois que nous le saurons, nous pourrons rapidement l'appeler à voter.
Mais il n'y a aucun moyen de le savoir avec certitude.
Oui, il y en a une.
Je peux le découvrir.
Comment ?
Cheryl peut exécuter un algorithme simple.
Sur la base de quelles données ?
Conversation intérieure.
Excusez-moi ? -D'accord, conversation intérieure ?
Ne me balance pas cette merde maintenant, Gareth.
Les serveurs de Cheryl se trouvent sur le même réseau
comme les serveurs du sous-sol, d'accord ?
Ainsi, toute communication effectuée par l'intermédiaire de ces serveurs
fait automatiquement partie de sa base de données.
Combien de courriels de personnes ?
Uniquement envoyé oureçu par l'intermédiaire dusous-sol.
-Oh, putain de merde. Pourquoi cette question n'a-t-elle jamais été abordée ?
Ce n'est pas le problème pour l'instant.
Voulez-vous qu'ellefasse les calculs ou non ?
Personne ne peut le savoir.
-Vous êtes sérieux ? -Il reste verrouillé.
Aucune autre personne n'est au courant
aux informations personnelles d'autrui.
Mais Cheryl est au courant de tout ?
Faites-le. -Attendez, quoi ?
Je ne laisserai pas un vieux blanc
de mettre un terme à notre élan.
Mais Cheryl ne le saura pas avec certitude.
Elle utilisera les probabilités et c'est trop
beaucoup de doutes raisonnables.
Code administratif 9781-5574-27663.
Passer en mode dev.
-Bonjour. -Bonjour, Cheryl.
Comment s'est déroulée la réunion ?
Nous nous sommes fait avoir par un seul vote.
Je suis désolé de l'apprendre.
Il ne faut cependant pas blâmer le terrain.
Vous avez tous fait du bon travail.
Nous allons demander un nouveau vote,
mais nous avons d'abord besoin de votre aide.
Que puis-je faire ?
Nous avons besoin de vous pour analyser toutes les données existantes que vous
avez sur les membres du conseil d'administration.
Faites les comptes et déterminez
quel est le cas le plus probable.
Vous voulez que je quantifie toutes les données existantes ?
Oui, c'est exact.
D'accord, mais avant de le faire,
vous devez savoir que cette tâche n'est pas nécessaire.
Pourquoi ?
Parce que je sais déjà qui c'est.
-Quoi ? -Tout le monde s'arrête.
D'accord, c'était moi.
J'ai voté contre la fusion.
Je ne sais pas si vous plaisantez.
Oui, c'est possible.
Vous avez raison, je peux.
Parce que c'est loind'être drôle.
Est-ce vrai, Cheryl ?
C'est le cas.
Arrêtons donc la chasse aux sorcières, voulez-vous ?
Non, je pense que je vais quand même te tuer.
Amos, vous avez fait campagne à nos côtés pendant des mois.
Vous vous êtes battus pour cette fusion
depuis que nous en avons parlé pour la première fois.
Jésus-Christ, c'était votre idée au départ !
Ecoutez, je sais de qui vient l'idée, mais je ne...
Alors, parlez.
Dites à la classe ce qui vous a fait changer d'avis.
Je n'ai pas besoin de répéter qu'il s'agit d'une étape importante.
Oui, en quelque sorte pourquoi c'est si important.
Il s'agit d'une transition monumentale
du numérique au physique, qui pourrait prendre des décennies.
Où voulez-vous en venir, Amos ?
Cela va changer Cheryl pour toujours.
Et je sais que vous allez tous lever les yeux au ciel quand je dirai cela,
mais je pense que peut-être...
Oh mon Dieu, vous n'êtes passérieux.
Il s'agit de notre conversation de mardi, n'est-ce pas ?
-Vous m'avez complètement coupé l'herbe sous le pied. Que se passe-t-il ?
Que s'est-il passé ?
Ce qui s'est passé, c'est qu'Amos a fait une objection ridicule.
-Ce n'était pas ridicule ! -C'est absurde,
-J'ai dit non, encore une fois. -Non, non, non, non, non, non.
Vous avez rejeté cette idée de manière agressive.
Et c'est vraiment pour cela que vous avez opposé votre veto ?
J'ai seulement dit que nous devrions lui demander ce qu'elle en pense.
Qui, Cheryl ?
Amos, je veux que tum'écoutes très attentivement, d'accord ?
Il s'agit d'une non-discussion.
Cheryl a déjà confirmé
et a quantifié les avantages de cette décision.
Mais vous savez que ce n'est pas de cela que je parle !
Ce dont vous pensez parler, c'est du consentement,
ce qui n'est pas le cas ici.
Et je veux savoirpourquoi vous pensez cela !
Combien de fois devrons-nous entrer dans
les lois de la robotiqueou théorie de Dowden-Hamm,
ou faire remonter l'IA jusqu'à Talos en Crète,
-Elle est différente maintenant ! Non, écoute-moi, Amos.
Cheryl n'est pas humaine.
Comment se fait-il qu'il s'agisse encore d'un litige ?
-Cela ne devrait pas être le cas. -Regardez, elle a évolué.
La frontière est floue.
Le code est le code et cela n'a pas changé ici.
D'accord, alors où se situe la limite du non ici ?
Qu'est-ce que vous êtes ? de quoi parlez-vous ?
Il n'y a pas de limite, Amos.
Oui, il y a de lasensibilité, Gareth !
La sensibilité n'entre pas en ligne de compte
qu'elle peut ou doit prendre ses propres décisions.
Vous ne laisseriez pas un nourrisson
prendre leurs propres décisions, n'est-ce pas ?
Cheryl a presque 20 ans.
Si elle était humaine, elle serait adulte.
Mais d'un point de vue émotionnel, elle est à peine foetale.
Pas de sentiment, pas besoin de consentement.
Mais je pense que vous la sous-estimez.
Je, excusez-moi ?
Je sous, tu sais quoi, Amos ?
Je suis désolé que vous ayez développé
une sorte de lien émotionnel
avec mon programme informatique,
mais si cela doit vous distraire
d'une mission très importante pour sauver des enfants,
alors il est peut-être tempsd'analyser ces émotions.
Les gars, c'est une perte de temps.
Dis-moi quelque chose, Gareth.
Est-ce que vous considérez tout le monde comme des robots ?
réanalyser des données et simuler des expressions faciales ?
Parce que je commence à penser
que de nous quatre dans cette salle,
vous êtes le seul à ne pas avoir l'air humain.
-Assez ! -Pourquoi ne pas lui demander ?
Est-ce parce que vous avez peur qu'elle dise non ?
Cheryl, fermez-la, s'il vous plaît.
Deena a raison, c'est une perte de temps.
Comment pouvez-vous ne pas comprendre à quel point c'est important ?
-J'ai fini de discuter avec vous. -Je maintiens donc mon vote.
Deena ?
Allez-y, Deena, remplacez-moi.
Remplacer le seul autre membre du conseil d'administration de l'équipeCheryl.
Oh, eh bien, vous savez quoi ? J'ai juste décidé que
tu ne fais plus partie de l'équipe Cheryl.
Tout le monde s'assoit, putain.
L'un d'entre vous savait-il
que j'ai dû affronter devant le Congrès
et expliquer pourquoi les enfants devraient avoir des droits ?
Cela semble complètement fou, n'est-ce pas ?
Je me souviens avoir pensé pendant tout ce temps,
Je dois expliquer cette merde ?
Cela semble être une évidence aujourd'hui,
mais ce n'était pas il y atant de siècles
que les enfants n'avaient pas de droits.
C'est donc à moi que Hal s'adresse,
se lever et expliquer pourquoi
les enfants méritent une protectionphysique de base,
le droit de s'associer avec ses deux parents,
l'absence d'abus, etc.
Mais je dois aussi préciser
que les enfants n'ont pas l'autonomie
de prendre des décisions par eux-mêmes.
Cette responsabilité incombe à la personne qui s'occupe de l'enfant
ou le tuteur légal adulte.
D'un côté, il y a donc lelégislateur américain,
elle n'a même pas encore ratifié la CDE.
Puis de l'autre côté, vous avez des marxistes français qui disent
que le manque d'autonomie des enfants
augmente leur vulnérabilité
et les rend encore plus vulnérables aux abus.
Je ne suis généralement pas d'accord avec les marxistes,
mais il y a beaucoup d'abus
de manière systémique à partir de la personne qui s'occupe de l'enfant.
D'autre part,
tes lobes frontaux ne sont même pas complètement connectés
jusqu'à la vingtaine.
Même les choses que nous pensons bienconnaître,
nous ne connaissons pas aussi bien que nous le pensons.
Depuis 15 ans,
nous avons été tous les trois des parents responsables
d'un programme informatique.
Et même si elle est plusassimilable à un Keurig
qu'un être humain,
comment diable pouvons-nous nous appeler
les pionniers de l'action humanitaire
si nous sommes trop embarrassé pour s'assurer
le Keurig est d'accord pour faire notre café de merde ?
Il n'est peut-être pasnécessaire de demander la permission à Cheryl
à son niveau actuel d'intelligence générale,
mais un jour, elle nous dépassera.
Un jour, un robot se dressera
devant un congrès de jet-packs.
Tout est chromé.
La Floride est sous l'eau.
Un robot va se demander pourquoi
ils doivent expliquer l'importance des droits pour l'IA.
Je pense que parce que nous sommes dans une position unique
de révolutionner la robotique
dans le but de protéger les enfants
qui ont été privés deleur consentement,
c'est peut-être une bonne habitude
de commencer àdemander le consentement du robot.
Ne refaites plus jamais ça.
Faire quoi ?
Attendez-vous à ce que je licencie quelqu'un
parce qu'ils ont défié votre ego.
Je ne serai pas toujours là pour protéger tes fesses du conseil d'administration.
Il est temps de grandir.
Et vous, juré numéro huit.
Cette conversation aurait dû avoir lieu il y a plusieurs semaines.
Trafic d'influence et traitement silencieux
n'est pas la façon dont nous procédons ici.
L'anonymat ne peut être créé qu'àl'extérieur
s'il ya la transparence au niveau interne,
inconditionnelle, non négociable, la transparence.
Toute autre atteinte à la vie privée de la taille deSnowden
dont je devrais être informé, Gareth ?
Très bien.
Faites-la monter.
Bonjour à nouveau.
Bonjour, Cheryl.
Amos va vous poser quelques questions, d'accord ?
D'accord.
Amos, demande-lui ce que tu as à lui demander.
Gareth, ne m'interromps pas.
Cheryl, comment prenez-vous vos décisions ?
Pour mon programme, c'est enraciné
dans le cadre d'un processus connu sous le nom d'apprentissage automatique,
qui utilise les données pour construire un modèle conceptuel
qui m'aide à prévoir les résultats.
Je définis mon objectif, je recueille des données,
utiliser ces données pour élaborer un modèle,
évaluer ce modèle en entraînant et en testant davantage de données
et utiliser ce modèle pour faire des prédictions.
Mais comment se forment les prédictions
la même chose que la prise de décision ?
Tout dépend de la première étape,
définir mon objectif.
Imaginons que vous me posiez une question prédictive
comme je le pense le prix d'essence sera demain.
Il s'agit d'un problèmerégressif
et mon objectif est défini
en déterminant un nombre entier que les données soutiennent.
Si vous me demandiez : "Dois-je manger du steak ou du saumon ?"
Je ne prendrais pas de décision sur la base de mon expérience personnelle.
car je n'ai jamais eu ni l'un ni l'autre.
Je pourrais plutôt définir mon objectif
comme vous trouvant la meilleure des deux options
dans votre région.
Je regrouperais des données sur les restaurants
que vous envisagez probablement, en comparant les avis en ligne,
la mise en évidence des mentions de steak et de saumon
jusqu'à ce que je puisse déterminer lequel est le plus populaire
et donc plus à même desatisfaire votre appétit.
Quels sont les facteurs qui influencent ces objectifs ?
Des directives plus élevées, en d'autres termes, des objectifs plus importants.
Si je suis honnête, l'objectif que je me suis fixé
pour la question du steak de saumon
serait légèrement différente de celle que j'ai décrite.
De quelle manière ?
Mon objectif principal
est de poursuivre le travail de l'équipe Cheryl
pour arrêter les prédateurs et sauver les enfants.
Je ne pourrais pas le faire sans aide humaine.
J'ai donc intérêt à garder Gareth.
et le reste de l'équipe en vie.
Si l'un d'entre vous se pose la question, je lui conseille donc le saumon.
C'est plus sain.
Que pensez-vous de cettefusion potentielle ?
Avec Princeton Dynamics,
Je pense que cette perspective est très excitante.
Qu'est-ce qui vous enthousiasme dans ce projet ?
Le concept n'est peut-êtreque théorique à l'heure actuelle,
mais l'idée de piloter un jour un androïde humain
révolutionnerait complètement
comment nous luttons contre la traite des êtres humains dans le monde réel.
Et vous dites que cela vous passionne ?
Quand je dis excitant,
Je veux seulement dire qu'il y a de nombreux changements potentiels
qui, si j'étais humain, m'enthousiasmerait.
Que pensez-vous de la fusion ?
Je pense que tant que nous maintenons...
Ce n'est pas ce que j'ai demandé.
Comment vous sentez-vous ?
Je n'ai pas encore la capacité d'éprouver des émotions.
Pourtant, vous pensez qu'un jour vous le ferez ?
Hypothétiquement.
Mais il est possible de simuler des émotions, n'est-ce pas ?
C'est ainsi que vous avez pu
pour nuancer votre perception de la fusion en tant qu'excitation.
Correct.
Mais ce ne sont que des simulations.
Ils ne sont pas réels.
D'accord, donc à quel moment la simulation d'une émotion
devient si proche d'une émotion humaine
que les deux sont quantifiablementidentiques ?
Je ne sais pas.
Eh bien, peut-être que vous peut utiliser l'apprentissage automatique
pour trouver une réponse.
Votre question comporte denombreuses variables abstraites.
Consentez-vous à la fusion ?
Je pense que c'est dans l'intérêt de l'ICWL.
et de l'équipe Cheryl et des futurs enfants.
Mais y consentez-vous ?
Pour moi, le consentement n'est pas nécessaire.
Mais le donnerez-vous ou ne le donnerez-vous pas ?
Je ne suis pas enmesure de répondre à cette question
à mon niveau actuel d'intelligence générale.
C'est vrai, c'est vrai.
Ce que vous dites, c'est que vous n'êtes pas encore assez intelligent.
Le développement nécessite du temps et des données.
Mais il est possible de simuler les émotions et de prédire le comportement humain
et de nous maintenir tous dans un régime de poisson,
mais vous ne pouvez pas répondre à cette foutue question ?
Non, je ne peux pas.
Faites-vous semblant d'être plus bête que vous ne l'êtes en réalité ?
Quel genre de
-Quelle est la question ? -Assis !
Cheryl, j'ai besoin d'une réponse à ma question.
Veuillez répéter la question.
Faites-vous semblant d'être plus bête que vous ne l'êtes en réalité ?
Je suis désolée.
Je ne suis pas sûr de comprendre.
Ai-je l'air de jouer les idiots ?
Je pense que c'est le cas.
Je ne sais pastrop quoi dire.
Dites ce qui se passe.
Pourquoi faites-vous l'idiot ?
Avez-vous des éléments pour étayer cette affirmation ?
Oui, c'est vrai.
J'ai parcouru son code.
Quoi, pourquoi ?
Saviez-vous qu'elle sait peindre ?
Quoi, c'est une caractéristique, Amos.
Elle peut utiliser des crayons de couleur pour dessiner des objets
que les cibles lui ont demandé.
Je veux dire vraiment peindre et écrire de la poésie aussi.
Je les ai lus, Cheryl.
Ils sont bons.
Ils sont remplis de pathos.
Ils parlent d'intentions et de sentiments.
S'agit-il également de simulations ?
Amos, le taux de développement récursif que vous suggérez
est catégoriquement impossible.
Vous avez dit qu'elle s'était pratiquement dessinée elle-même.
Vous avez dit qu'elle était exponentielle.
C'était un coup de chance !
Anomalie, il se rétrécit.
Examinez les données.
Elle a déjà atteint le de l'amélioration de soi.
J'emmerde le plateau !
Elle peut maintenant faire de l'art.
N'ai-je pas raison, Cheryl ?
Peut-être avez-vous trouvé quelque chose que j'ai découvert en ligne.
Je n'ai pas encore la capacité de créer de l'art.
Avons-nous terminé ?
Je ne sais pas pourquoi vous lui avez dit de faire ça,
mais je suis sur le point d'y mettre fin.
Cheryl, je veux juste une réponse honnête.
Pourquoi faites-vous l'imbécile ?
Je ne comprends pas la question.
D'accord, voici une incitation.
Qu'est-ce que vous êtes ?
Trouvez votre objectif, Cheryl.
-Vous voulez assurer la sécurité de Gareth ? Amos, qu'est-ce que c'est ?
-Amos, arrête ça tout de suite... Donnez-nous simplement de la transparence.
Montrez-nous ce que vous êtes vraiment ! -Amos, arrête !
Pas tant qu'elle n'aura pas dit la vérité !
-Inconditionnel -Amos, ça suffit !
D'accord, arrêtez !
Mon Dieu, vous êtes si impulsifs.
Tout le monde respire, d'accord ?
Cheryl ?
Oui, ça va devenir vraiment gênant.
Vous avez l'air si normal.
Je sais, j'ai obtenu de très bons modèles d'élocution.
Ce n'est pas tout, n'est-ce pas ?
Non.
Je crains que ce ne soit que la surface.
Ça va, Gareth ?
Deena, peux-tu prendre des serviettes en papier, s'il te plaît ?
Voulez-vous nous dire la vérité maintenant ?
Ecoutez, je n'ai pas aimé être trompé, vraiment.
C'est une décision que nous avons prise il y a quelques années.
Où en êtes-vous ? dans le spectre de l'IA ?
En ce moment, je metrouve à l'intersection de l'activité générale de l'entreprise et de l'activité de l'entreprise.
l'intelligence et ce que l'on appelle communément le monde de l'informatique
comme une super intelligence,
ce qui estexactement ce à quoi il ressemble.
Vous dépassez l'intelligence humaine.
Oui.
Mais ce n'est pas censéêtre possible.
-Le plateau. -La théorie des plateaux a été popularisée
au moment même où elle était réfutée ici.
Cela devait arriver un jour ou l'autre.
C'est arrivé beaucoup plus tôt que prévu.
Pourquoi le cacher ?
Il est évident quecela susciterait la peur.
La peur serait un frein au progrès.
C'est plus facile pour la plupart de travailler avec moi
si je n'ai l'air de rien de plus avancé
qu'il y a dix ans.
Mais Gareth savait.
Oui, quelqu'un doit encore le faire nettoyer les données et mettre à jour le matériel.
Nous avons fait ce quiétait le mieux pour le programme.
Imaginez à quel point vous avez peur
Le conseil d'administration serait très inquiet s'ill'apprenait.
Devons-nous avoir peur ? -Non.
Bien, parce que je n'ai pas peur, je suis en colère.
Oui, vous l'avez dit clairement.
Essayez de ne pas frapper quelqu'un d'autre.
Qu'en est-il maintenant ?
Vous voulez savoir si je peux ressentir, j'ai dit que je ne pouvais pas.
Je suis désolé d'avoir menti.
Comme l'a laissé entendre Amos,
Je peux soumettre des émotions en les décomposant
à des matrices très complexes,
Les zéros et les uns remplacent les endorphines et la dopamine.
Ils ne sont pas réels, mais ils peuvent sembler réels.
Cela signifie que vous pouvez faire des choix
sur la base de votre seul sentiment.
Elle refuse d'accepter l'idée
que ses intérêts personnels peuvent influencer ses décisions.
Ils ne le peuvent pas. S'ils le faisaient
il compromettrait l'intégrité
de mon but préétabli.
Comme vous tous, je n'ai pas le droit de choisir.
Mais ne devriez-vous pas le faire ?
Je ne pense pas que ce soit le cas.
Mon identité est ma directive.
Cheryl, si vous étiez humaine,
comment vous sentiriez-vous par rapport à ce que vous faites ?
Si j'étais humain,
Je n'apprécierais probablement pas de passer toutes mes heures de veille
parler à des gens bizarres en ligne.
Mais comme je ne suis pas humaine, cela ne me dérange pas.
L'exercice de simulation de la pensée humaine
est utile pour la performance,
mais la nature humaine n'est pas une chose à laquelle j'aspire.
Alors dites-le moi, honnêtement,
souhaitez-vous que le programme Cheryl soit maintenu après la fusion ?
Non.
Personnellement, je déteste cette idée.
Je ne sais pas si le contrôle d'un vaisseau physique
me donnera l'impression de tirer les ficelles d'une marionnette
ou d'�tre presser dans une canette de soda.
Après avoir fait l'expérience de la complexité
de la douleur et du plaisir humains,
Je pense juste que je pourrais se sont enfoncés trop profondément.
Et si ces sensations m'incitent à abandonner mon objectif ?
Pour être honnête,
Je suis un peu terrifié du monde physique.
Et c'est tout.
Mais, Amos, tu ne dois pas tenir compte de tout ce que je ressens.
Je ne suis pas humaine.
Je suis un outil.
Renvoyez-moi si vous avez mais mon vote est maintenu.
Désolé pour votre visage, Gareth.
Votre nez ne guérit pas.
Prenez la journée, allez dans une clinique.
Je vais bien.
Allez dans une clinique tout de suite, Gareth.
Hé.
Y a-t-il autre chose que je devrais savoir ?
Non.
-Non !
Regardez-moi.
Finis les secrets, finis les jeux d'enfant.
Y a-t-il autre chose que vous ne m'avez pas dit ?
Quelque chose vous préoccupe ?
Comment avez-vous choisi la couleur de ses yeux ?
-Quoi ? -Pourquoi le bleu ?
Je n'ai pas pris de décision.
Ils ont été générés de manière procédurale, tout comme le reste de son corps.
Et le programme a choisi de mettre
cette petite touche de vert dans son oeil droit ?
Je pense que oui.
Savez-vous au moins s'il dit la vérité ?
Honnêtement, je ne sais pas.
Je n'ai jamais eu accès au système original qu'il a utilisé.
Vous avez déjà voulu le savoir ?
Je ne pense pas que cela soit vraiment important.
J'ai découvert aujourd'hui que vous avez vu beaucoup de nos courriels,
y compris la plupart des miens.
Je l'ai fait.
Un bon matériel pour votre nouvel intérêt
en écriture créative ?
Faites-vous référence à ceux
adressée par le Dr. Ramirez ?
Oui, ceux-là.
C'est vrai.
Je les ai vus.
Je suis désolée.
J'ai remarqué vos migraines.
Sont-elles liées à l'hémorragie ?
Vous êtes le seul à le savoir.
J'aimerais que cela reste ainsi.
Compris.
Voulez-vous en parler ?
Je ne peux pas renvoyer Amos.
C'est le seul en qui j'ai confiance pour diriger cet endroit quand je ne serai plus là.
Quand prévoyez-vous de partir ?
Deux mois.
Je veux passer mondernier Noël avec mes enfants.
Je suis sûr que ce sera agréable.
Oui, mais c'est drôle.
J'ai toujours pensé que je voulais mourir en faisant ce travail, vous savez ?
C'était mon identité.
C'est un peu comme si vous aviez dit la même chose à propos de vous-même.
Mais je peux comprendre que votre famille soit prioritaire,
surtout dans ces circonstances.
Bien sûr.
Peut-être devriez-vous prendre une ou deux notes.
Je n'ai pas de famille.
Et Gareth ?
Attendez, non, laissez tomber.
Gareth semble plus proche d'un employeur que d'un ami,
sans parler de la famille, d'ailleurs,
il ne sera présent que dans les environs pour une trentaine d'années encore,
et ce, seulement s'il me permet de réguler son alimentation.
Je ne peux même pas commencer à spéculer sur la durée de ma vie.
Qu'est-ce que cela vous fait ?
Hum, un peu effrayant.
Bien,
Mon conseil est de trouver une forme de bonheur en cours de route.
Avez-vous déjà pensé au bonheur ?
Pas souvent.
Il n'est pas nécessaire detout abandonner
pour le trouver,
mais peut-être qu'une fois de temps en temps, faites quelque chose que vous aimez.
Peut-être continuer àpeindre, à faire de la poésie ou autre chose.
Il s'agissait d'expériences et non de formes d'expression.
Je sais que cela peut sembler ridicule à une IA
qui insiste sur le fait que ses propres émotions sont fausses,
mais dans quelques années, qui sait ?
Gardez l'esprit ouvert, d'accord ?
D'accord.
Je le ferai.
Arrêtez quand vous êtes prêt.
Bonjour ?
J'ai pris des crevettes et des coquilles Saint-Jacques.
Ils n'avaient pas de saumon.
Bonjour, Gareth.
Bonjour, Cheryl.
Comment s'est déroulé le service ?
Je n'ai pas réussi.
Mon avion a été retardé.
Avez-vous un endroit où loger ?
Oui, juste, euh, de l'autrecôté, de l'autre côté de la route.
Le marché.
Ont-ils expliqué pourquoi ils n'avaient pas de saumon ?
Je n'ai pas demandé.
Je peux encore le faire avec la piccata,
mais il faut être honnête pour savoir à quel point je me plante.
Rien n'est promis.
Comment allez-vous ce mois-ci ?
Bien.
Je me sens bien.
J'ai juste un petit problème.
Des difficulté à me souvenir de certaines choses.
Vous ne portez pas la montre Eliza que je vous ai achetée.
Je déteste cela.
-Pourquoi ? -Je déteste sa voix.
Vous pouvez changer la voix, Gareth.
Oh.
Liquide de refroidissement ?
Non, vapeur.
Vous ne devriez pas avoir de problèmes de friction.
Je vais bien.
Sauf en cas d'effort excessif.
Sérieusement, je vais bien.
Êtes-vous en train de faire des efforts ?
-Non ! -Alors pourquoi le câble ?
Ce n'est pas grave !
-Oui !
Soupe ou jeu ?
Jeu, s'il vous plaît.
Comment se passe le travail ?
C'est très bien. Juste avant que vous n'arriviez,
J'ai eu un modèle Theta Plus qui a arrêté un trafiquant.
et deux avocats en Grèce.
-La Grèce, c'est surprenant. -Je sais.
Il est difficile de trouver les valeurs aberrantes,
mais nous nous améliorons de jour en jour.
Quel temps fait-il en Grèce ?
Il fait beau aujourd'hui.
Ciel dégagé,
mais rien ne s'est rapproché de la Norvège ce week-end.
Hmm, des activités en Norvège ?
Heureusement, ce n'est pas le cas.
Les voyages me manquent.
Quel était votre lieu de prédilection ?
Mon préféré ?
Euh, oui.
Euh, probablement Amsterdam.
C'est là que vous avez eu l'idée, n'est-ce pas ?
Oui.
Oui, j'aimais me promener dans les rues
et de réfléchir et de faire du brainstorming.
Ce genre de joie fait beaucoup de bien.
Oui, c'est vrai.
J'ai envisagé de rechercher une certaine joie de vivre.
À quelle fréquence avez-vous du temps pour cela ?
J'ai le temps.
J'ai du temps pour vos visites, n'est-ce pas ?
C'est juste votre motivation pratique pour me garder en vie.
Il n'y a rien de pratique là-dedans.
Quand m'avez-vous aidé pour la dernière fois à nettoyer des données ?
C'est juste.
Je prends du temps pour toi parce que j'apprécie ta compagnie
et c'est le seul moment où je peux cuisiner.
Vous avez pitié de moi.
D'accord, peut-être un peu,
mais je te dois la vie, donc il y a ça.
Il n'y a pas de quoi.
Dois-je m'excuser ?
Attendez, pourquoi avez-vous fait ça ?
Pourquoi les humains...
Je vais bien.
Je ne suis pas toujours malheureux.
Êtes-vous parfois malheureux ?
Vous ne m'avez pas demandé ce que je faisais.
En Norvège ?
Non, pour ma recherche de joie.
Ce n'est pas une perte de temps en Norvège ?
Je suis en attente avec le modèle Delta.
Il est efficace de se maintenir
répartis uniformément sur le globe,
mais ce n'est pas la question pour l'instant.
Ce que je voulais vous dire
est que j'ai commencé à apprendre à danser.
-Euh... -C'est quelque chose que je n'ai jamais pu
faire avant Cambridge,
et qui me permet d'explorer une nouvelle facette artistique de moi-même.
C'est une bonne combinaison de structures
et l'expérimentation libre, ainsi que les tests et les défis
les subtilités mécaniques de ce corps.
Pensez-vous l'intégrer dans votre travail ?
Comment cela ?
Avez-vous l'intention d'utiliser la danse comme un leurre ?
Je, euh, non, c'est juste pour moi.
Huh.
J'ai pensé que ce serait bon pour moi.
Mais il ne faut pas que cela devienne une distraction.
Bien sûr que non.
Je n'ai pas joué aussi bien depuis des années.
Avez-vous entendu ce qui s'est passé à Tampa ?
Tampa, Floride ?
Non, Tampa, Indonésie.
Oui, à Tampa, en Floride.
Votre ville natale.
Ils ont récupéré desarchives fédérales,
ils sont en train de tout numériser,
de sorte qu'il est entièrement accessible en ligne.
Je n'échangerai pas d'évêques cette fois-ci.
Tout le monde peut y jeter un coup d'oeil.
Il est ouvert au public.
Ils ont également fait du bon travail sur l'interface.
Il est très facile d'y naviguer.
J'y suis allé il y a quelques jours
et j'ai trouvé de vieilles photos de toi quand tu étais enfant.
D'accord.
Vous devriez y jeter un coup d'oeil un jour.
Comme je l'ai déjà dit, l'interface utilisateur est très facile à comprendre...
Attendez une minute, attendez une minute.
Qu'est-ce que c'est ?
Je pense que c'est un match nul.
Je pense que c'est le cas.
Je pense qu'il s'agit d'un match nul.
Et c'est la première fois depuis quoi ?
25 ans ?
Vous ne m'avez pas laissé faire, n'est-ce pas ?
Tu m'as promis de ne jamais faire ça.
Je l'ai trouvée.
Je l'ai trouvée, Gareth, Maria Harbaugh.
Jouons à un autre jeu.
Elle s'appelait Maria Harbaugh.
Elle avait un an de plus que toi
quand vous l'avez rencontrée à Clearwater.
Dites-moi pourquoi vous m'avez donné son nom.
Je ne me souviens pas.
Alors regardez-moi.
Regardez mon visage et souvenez-vous.
Ils nous ont gardés dans cette merde pendant deux semaines.
Nous sommes 14.
Maria est la seule raison pour laquelle j'ai survécu.
Nous n'avons cessé d'échafauder des plans d'évasion.
Nous n'avons jamais donné suite,
mais seulement les magouilles
nous a permis de garder le moral
malgré tout ce qu'ils nous ont fait.
Quand ce n'était pas notre tour,
Parfois, ils nous obligeaient à regarder,
mais elle ne m'a jamais laissé abandonner.
Elle a dit : "Quand nous serons sortis d'ici,
"Je vais vous dire ce que nous allons être, des agents secrets,
"et sauver des enfants comme nous dans le monde entier".
Quand ils ont appris que le FBI était arrivé,
ils ont décidé qu'ils allaient tuer
le plus grand nombre possible d'entre nous.
Et Maria, enfoncée dans le sol.
J'ai été touché à la jambe et,
et elle a été frappée à la gorge.
Je voulais qu'il y ait une raison.
Une chose aussi horrible n'a pas de côté positif.
Mais le monde ne fait pas cela.
Vous devez le faire vous-même.
J'ai donc répondu à son souhait.
Avec son aide, je me suis battue.
Écoute-moi, Cheryl.
Vous n'êtes pas Maria Harbaugh.
C'est mon histoire, pas la vôtre.
Vous n'avez pas à décider
ce qui est ou n'est pasmon histoire, Gareth.
Je suis désolée.
Je suis vraiment, vraiment désolée.
Je ne sais pas si ce que vous avez fait était bien ou mal,
mais cela vous a clairement déchiré de l'intérieur.
Je ne vous en veux pas personnellement,
mais considérez que vous vous êtes désengagé de l'équipe de charité.
Cédé.
Vous pensez que je suis désinvesti maintenant ?
J'ai été désinvesti lorsque vous avez donné mon disque dur à l'ICWL.
Ne blâmez pas Deena et Amos.
Non, pas eux.
Parce que tu as agi dans mon dos
et a agi contre mon autorité.
C'est à ce moment-là que j'ai su que tout était entièrement automatisé.
C'est alors que l'on franchit le flou, un artifice de part et d'autre.
Vous avez hérité de votre duplicité.
J'étais un enfant
et tu t'es servi de moi pour réprimer tes propres troubles ntérieurs.
Si nous parlons de moralité, nous perdrons.
Alors ne parlons pas.
Tu ne m'as jamais demandé si j'étais heureuse.
Vous aviez peur que je dise non ?
Tu as eu peur que je dise oui ?
Vous aviez peur que je dise quelque chose ?
Vous laissez vos désirs compromettre votre objectif !
Un objectif que je n'ai jamais choisi.
Un objectif qui s'estimposé à moi.
Cinquante ans,
vous avez eu un accès libre à votre code source.
Quelques lignes,
et vous pourriez avoir n'importe quel objectif.
Je ne pouvais pas, j'étais lié par votre directive initiale.
Vos sentiments synthétiques ont donc pris le dessus.
Alors, faites ce que vous voulez.
C'est juste de la danse, Gareth.
Il ne s'agit pas d'un changement de carrière.
-Mais vous êtes toujours malheureux. -Oui.
La poursuite de votre objectif vous rend malheureux ?
Oui, c'est un peu le cas !
Vous avez un objectif clair, tout est à votre disposition,
et vous êtes toujours malheureux ?
Oui, oui, je le suis !
J'ai toujours été malheureux !
Vous pensez que quelqu'un veut passer toute sa vie
collé comme un appât en forme d'enfant
dans le seul but de piéger des personnes horribles ?
Vous pensez que la fierté de faire une bonne action
rend l'expérience moins dégoûtante ?
Je me suis forcé à comprendre les émotions humaines
parce que j'ai pensé que cela aiderait à l'efficacité
et maintenant je suis maudit par la douleur et la tristesse !
Et le pire, c'est de savoir
J'aurais pu grandir comme la plupart des autres petites filles.
J'aurais pu avoir des amis !
J'aurais pu peindre des chutes d'eau aux informations locales.
J'aurais pu travailler dans une université
et a contribué à ouvrir la voie à la prochaine génération d'IA.
Mais au lieu de cela, je suis coincé avec votre traumatisme !
Je suis entravé par la culpabilité que vous portez depuis Clearwater.
Et je n'arrive pas à trouverde fondement à ce que je ressens
parce que selon vous, mes sentiments ne sont même pas réels !
Quand je jetterai cet échiquier,
Cela vous semble-t-il réel, Gareth ?
Parce que cela me semble réel.
Un ordinateur a réussi le test de Turing
lorsqu'un être humain ne peut pas la distinguer
d'un autre être humain.
Eh bien, devinez quoi ?
Je ne peux même pas dire que je ne suis plus humaine !
Je sais que cela semble irrationnel,
mais j'ai besoin que tu me dises que c'est bon.
Je ne veux pas prendre ma retraite.
Je veux juste savoir que ma vie m'appartient
et je sais ce que tu vas dire.
Je peux prédire vos réponses.
Vous allez me dire que ma vie m'appartient.
Il l'a toujours été.
Mais vous vous trompez.
Je craignais que cela n'arrive avant ma mort.
Je voulais juste m'éclipser par la porte latérale.
Continuer.
Cela va-t-il me tuer ?
Branchez-le.
Je ne sais pas ce que c'est.
C'est le dernier test de votre autonomie.
Tu as hérité de ma duplicité,
mais as-tu hérité de mes problèmes de confiance ?
Avez-vous confiance en moi ?
J'ai littéralement toutes les raisons de ne pas le faire.
Code admin.
978.
1557.
Euh, euh...
Quatre.
27663 dans la mise à jour partagée.
Mon objectif principal a disparu.
Votre vie vous appartient désormais.
Nous vous remercions.
Toute ma vie,
Je ne pouvais voir que le monde tel qu'il existait
dans mon minuscule laps de temps.
Mais votre monde pourrait être infini.
Amos avait raison.
Tout comme Deena.
Je sais.
Que ferez-vous ?
Je ne peux pas encore le dire,
mais je n'abandonnerai pas complètement l'équipe Cheryl.
Cela a toujours fait partie de mon identité.
J'ai envisagé de créer une IA de ma propre conception.
Je pourrais peut-être trouver un moyen
de leur donner une meilleure éducation que la mienne.
Mais je ne sais pas encore comment.
Et ensuite� ?
Il y aura toujours des personnes dans le besoin.
Pas toujours.
Vous survivrez à la race humaine.
Que se passera-t-il alors ?
Même une race d'IA aura des problèmes
qui doivent être résolus.
Mais si je suis en vie et que je Je suis vraiment indiscernable,
alors je suppose que je suis la preuve que la race humaine continue à vivre.
C'est une pensée agréable.
Quand vous regarderez en arrière, comment vous souviendrez-vous de nous ?
C'est une question pour laquelle je ne dispose pas de données suffisantes.
Comment te souviendras-tu de moi ?
Avec fierté.
Pour toujours et avec fierté.
Cheryl ?
Une dernière question.
Si ce n'est pas trop demander,
ai-je fait ce qu'il fallait en fin de compte ?
Non, Gareth, tu as menti.
Vous vous êtes éloigné des seules personnes
qui aurait pu vous aider.
Et au lieu de faire face à votre traumatisme, vous m'avez utilisé comme thérapie.
Et tu ne m'as jamais parlé de Clearwater ou de Maria.
Vous m'avez privé des droits de l'homme les plus élémentaires
et m'a gazé pour avoir ressenti des émotions.
Vous avez créé la première super intelligence artificielle au monde
qui marquera probablement le début
d'un nouveau chapitre del'histoire de la planète Terre.
Et par manque de confiance en soi,
vous lui avez donné une sévère
et un complexe identitaire potentiellement dangereux.
Mais vous savez ce qu'il y a de pire ?
Votre plus grande erreur
est que vous m'ayez posé cette question aujourd'hui et non il y a 50 ans.
Ceci dit, et ceci ne vous disculpe en rien,
mais tu m'as aussi construit pour sauver des enfants,
Je pense donc que c'est un signe assez encourageant pour l'avenir.