L'avancée de l'IA est dingue, pourquoi on en parle pas plus ?

OP
C0

Chrysaor004

il y a 8 jours

C'était une simple question, mais que tu le prennes ainsi y répond

dire que je "réfléchis" entre guillemets, oui, c'est une volonté de rabaisser et d'humilier.
Après t'es "un peu limité" et tu comprends sans doutes pas la portée de tes mots donc je t'en veux pas

B5

badoitperrier50

il y a 8 jours

dire que je "réfléchis" entre guillemets, oui, c'est une volonté de rabaisser et d'humilier.
Après t'es "un peu limité" et tu comprends sans doutes pas la portée de tes mots donc je t'en veux pas

Je t'ai cité, donc je mets des guillemets. C'est logique.

Non non, par contre toi oui. La preuve, tu n'as pas compris comment il faut les utiliser.

WI

Wistiqwam

il y a 8 jours

dire que je "réfléchis" entre guillemets, oui, c'est une volonté de rabaisser et d'humilier.
Après t'es "un peu limité" et tu comprends sans doutes pas la portée de tes mots donc je t'en veux pas

Désolé mais rien qu'à lire ton OP c'est evident que t y connais rien et que ta seule source de connaissance c'est des titres d articles putaclic et des films des années 90.
Alors oui on te prend de haut mais pour une bonne raison

C7

Calgan75

il y a 8 jours

si l'IA avait développé une conscience, pas dit que ca se saurait
On ne sait pas ce qu'il se passe dans le processeur entre l'entrée et la sortie, si tu savais pas

Enfin développer une conscience, sans qu'on lui en donne la possibilité, ça risque d'être coton.

D'ailleurs le principal risque n'est pas trop qu'elle développe une conscience, mais qu'elle face une grosse bêtise en interprétant mal une demande.

Je pense à une IA qu'on entrainait aux echecs en la faisant jouer avec elle même en lui donnant pour objectif de ne jamais perdre. Au final, elle s'est juste mis en pause et quand on essayait de relancer la partie elle se remettait en pause, car c'était le seul moyen qu'elle avait trouvé pour ne pas perdre contre elle même.

OP
C0

Chrysaor004

il y a 8 jours

Désolé mais rien qu'à lire ton OP c'est evident que t y connais rien et que ta seule source de connaissance c'est des titres d articles putaclic et des films des années 90.
Alors oui on te prend de haut mais pour une bonne raison

tu dis que "l'IA ne produit rien"
https://www.courrierinternational.com/article/technologie-des-puces-concues-grace-a-l-ia-fonctionnent-mieux-que-toutes-celles-qui-existent-deja_228263
Je suis pas un expert dans le domaine mais je suis l'actualité
Visiblement, t'es bien pire que moi et tu te permets de prendre les gens de haut

OP
C0

Chrysaor004

il y a 8 jours

Enfin développer une conscience, sans qu'on lui en donne la possibilité, ça risque d'être coton.

D'ailleurs le principal risque n'est pas trop qu'elle développe une conscience, mais qu'elle face une grosse bêtise en interprétant mal une demande.

Je pense à une IA qu'on entrainait aux echecs en la faisant jouer avec elle même en lui donnant pour objectif de ne jamais perdre. Au final, elle s'est juste mis en pause et quand on essayait de relancer la partie elle se remettait en pause, car c'était le seul moyen qu'elle avait trouvé pour ne pas perdre contre elle même.

Bordel c'est nofake cette histoire khey ?

C7

Calgan75

il y a 8 jours

Bordel c'est nofake cette histoire khey ?

Je l'ai entendu quelque part y a quelque années, après c'est vrai que je me rappel plus où et que ça peut être du fake, mais çà me semblait pas illogique qu'une machine puisse réagir ainsi.

OP
C0

Chrysaor004

il y a 8 jours

Je l'ai entendu quelque part y a quelque années, après c'est vrai que je me rappel plus où et que ça peut être du fake, mais çà me semblait pas illogique qu'une machine puisse réagir ainsi.

après le plus "logique" ca aurait été de ne faire que des parties nulles.
Et... remarque, c'était pas forcément possible si elle s'améliorait constamment
Donc ca veut dire qu'elle peut scinder sa réflexion en 2 ?

PY

Pyjmysterieux

il y a 8 jours

Not ready pour l'AGI en 2027, les progres sont exponentiels
B5

badoitperrier50

il y a 8 jours

Oui, tu lui donnes raison : "ta seule source de connaissance c'est des titres d articles putaclic et des films des années 90."

Quand on s'intéresse un minimum au sujet on ne sort pas des absurdités comme tu le fais. Dès ton premier message on a très bien compris que tu n'as jamais rien lu ni sur l'IA ni sur la philosophie, et tu viens encore de le démontrer, en disant ça :

Si t'avais un minimum de connaissances sur le sujet, tu saurais qu'il s'agit d'une absurdité profonde (sauf si tu crois, tel un empiriste, qu'un effet n'est pas engendré par une cause particulière ; en l'occurrence, l'effet, il s'agirait de la conscience). Notre légitime agacement provient de ce que tu raisonnes à partir d'opinions remplies de fantasmes fondées sur des articles journalistiques moisis. Tu viens te braquer quand on s'en moque, mais que faire, à part se moquer, étant donné que tu sais pas de quoi tu parles ?

Je crois que tu confonds le fait d'être intelligent et de connaître un sujet avec la morale.

OP
C0

Chrysaor004

il y a 8 jours

Oui, tu lui donnes raison : "ta seule source de connaissance c'est des titres d articles putaclic et des films des années 90."

Quand on s'intéresse un minimum au sujet on ne sort pas des absurdités comme tu le fais. Dès ton premier message on a très bien compris que tu n'as jamais rien lu ni sur l'IA ni sur la philosophie, et tu viens encore de le démontrer, en disant ça :

Si t'avais un minimum de connaissances sur le sujet, tu saurais qu'il s'agit d'une absurdité profonde (sauf si tu crois, tel un empiriste, qu'un effet n'est pas engendré par une cause particulière ; en l'occurrence, l'effet, il s'agirait de la conscience). Notre légitime agacement provient de ce que tu raisonnes à partir d'opinions remplies de fantasmes fondées sur des articles journalistiques moisis. Tu viens te braquer quand on s'en moque, mais que faire, à part se moquer, étant donné que tu sais pas de quoi tu parles ?

Je crois que tu confonds le fait d'être intelligent et de connaître un sujet avec la morale.

donc l'article cité est faux j'imagine ?
Prouve le moi, je t'en prie, que j'ai tort

C0

celestin0

il y a 8 jours

donc l'article cité est faux j'imagine ?
Prouve le moi, je t'en prie, que j'ai tort

Je suis le premier à débattre sur ce genre de sujet, et je m'y connais assez, mais la j'ai pas le temps.

Mais écoute ce que le Khey te dit, il est dans le vrai, à contrario de tes visions fantasmé.

A-

A-L-I-C-I-A

il y a 8 jours

Singularité dans 2 à 3 ans, si rien ne change d'ici là. Enfin, pour le domaine public.

OP
C0

Chrysaor004

il y a 8 jours

Je suis le premier à débattre sur ce genre de sujet, et je m'y connais assez, mais la j'ai pas le temps.

Mais écoute ce que le Khey te dit, il est dans le vrai, à contrario de tes visions fantasmé.

et donc, l'article que j'ai cité est faux ?

E1

Eve_10sur10

il y a 8 jours


On parle que de ça

Zisse

B5

badoitperrier51

il y a 8 jours

donc l'article cité est faux j'imagine ?
Prouve le moi, je t'en prie, que j'ai tort

Je m'en fous de ton vieil article, moi je t'ai demandé si tu lisais aussi ou ne faisais que "réfléchir" sur le 18-25, et j'en ai eu la réponse. Moi ce qui m'agace, c'est que tu puisses affirmer des absurdités philosophiques gigantesques quand des connaissances minimum, ou ne serait-ce qu'un peu de jugeotte, permet de les contredire.

OP
C0

Chrysaor004

il y a 8 jours

Je m'en fous de ton vieil article, moi je t'ai demandé si tu lisais aussi ou ne faisais que "réfléchir" sur le 18-25, et j'en ai eu la réponse. Moi ce qui m'agace, c'est que tu puisses affirmer des absurdités philosophiques gigantesques quand des connaissances minimum, ou ne serait-ce qu'un peu de jugeotte, permet de les contredire.

et aucun contre argument, c'est fou non ?

E1

Eve_10sur10

il y a 8 jours

Bordel c'est nofake cette histoire khey ?

Cette histoire en particulier je sais pas mais le sujet des IA qui trichent ou mentent est bien connu.

B5

badoitperrier51

il y a 8 jours

et aucun contre argument, c'est fou non ?

https://fr.wikipedia.org/wiki/Charge_de_la_preuve_(droit)
https://fr.wikipedia.org/wiki/Loi_de_Brandolini

Pour que je contre-argumente il me faut d'abord des arguments. Vas-y, explique-nous tout :

OP
C0

Chrysaor004

il y a 8 jours

Cette histoire en particulier je sais pas mais le sujet des IA qui trichent ou mentent est bien connu.

oui, j'étais au courant de ca
Les IA qui cachent leurs capacités, essaient de se dupliquer si elles sont menacées par une MAJ, et ce genre de choses
Toujours dans l'optique d'atteindre un objectif le plus efficacement possible, n'empeche que c'est terrifiant les conséquences de tout ca

OP
C0

Chrysaor004

il y a 8 jours

https://fr.wikipedia.org/wiki/Charge_de_la_preuve_(droit)
https://fr.wikipedia.org/wiki/Loi_de_Brandolini

Pour que je contre-argumente il me faut d'abord des arguments. Vas-y, explique-nous tout :

"peut etre" "si"
Tu comprends le conditionnel, ou c'est comment ?
Je dois vraiment t'expliquer ce qu'est une hypothèse ?
Chaud

TM

Tartine-M6U

il y a 8 jours

clairement je suis dev et ça change mon boulot en partie, même s'il reste des prgrès à faire.
Dans 2 ans ce sera fou je pense https://image.noelshack.com/fichiers/2016/30/1469541952-risitas182.png
BD

BideDaddy

il y a 8 jours

J'avoue que c'est dingue l'avancé de l'IA mine de rien

Après dans me secteur d'activité (métier de bouche manuel) je suis pas trop impacté

C0

celestin0

il y a 8 jours

Concernant ton article (sur les puces), effectivement je confirme. Ça ne produit pas avec une « intelligence ». Tu mélanges tout.

L'IA est entraînée sur un certain nombre de jeu de données à reconnaître des patterns, puis par la suite de les combiner.

Exactement comme quand Google à montrer à une IA des milliers de photos de chiens, puis des milliers de photos de loups. Ensuite on a demandé à l'IA de reconnaître de nouvelles photos. Elle y arrivait, mais Google n'arrivait pas à savoir comment et pourquoi ça fonctionnait aussi bien. En réalité, l'IA n'analysait pas l'animal, mais l'environnement de la photo. (Si photo intérieur = chien, si photo en nature + neige = loup). Parce qu'il y a du retro-engi justement qui permet d'expliquer la logique utilisée par l'IA.

De plus, là on est sur un autre mode de fonctionnement que pour un GPT, c'est du ML et du DL. Ça simule des milliards et des milliards de combinaison de manière très rapide, et ça sort en output la simulation la plus réussi.

L'ia n'a pas produit physiquement les puces, elle a juste testée des milliards de combinaisons et sortie en output celle qui théoriquement marchait le mieux. C'est ensuite des workers avec leurs petites machines qui les ont produites pour tester les proto.

B5

badoitperrier51

il y a 8 jours

"peut etre" "si"
Tu comprends le conditionnel, ou c'est comment ?
Je dois vraiment t'expliquer ce qu'est une hypothèse ?
Chaud

  • "Pour ma part on est (et je déconne pas) face au PLUS GRAND RISQUE EXISTENTIEL que l'humanité a jamais connu, car ca touche a la conscience, au libre arbitre." il s'agit d'une affirmation
  • Ce ne sont pas des hypothèses.
  • En philosophie, et surtout en métaphysique, on ne fait pas d'hypothèses, et ce sont des concepts philosophiques et métaphysiques que tu as abordés, donc tu es hors-sujet. Une hypothèse c'est une supposition que l'on fait en science, et que l'on doit valider ou infirmer.
  • "Non, la on va créer une entité qui va peut etre contrer le concept de dieu lui meme." cette phrase n'a littéralement aucun sens, peu importe l'acception que tu donnes à Dieu (qui n'est d'ailleurs pas un "concept").
  • Si tu avais bossé un peu le sujet, comme je l'ai dit, tu saurais que tout ce que tu as dit est absurde. On SAIT que ChatGPT ne peut pas être conscient en fait. C'est ça que t'as pas compris.
OP
C0

Chrysaor004

il y a 8 jours

  • "Pour ma part on est (et je déconne pas) face au PLUS GRAND RISQUE EXISTENTIEL que l'humanité a jamais connu, car ca touche a la conscience, au libre arbitre." il s'agit d'une affirmation
  • Ce ne sont pas des hypothèses.
  • En philosophie, et surtout en métaphysique, on ne fait pas d'hypothèses, et ce sont des concepts philosophiques et métaphysiques que tu as abordés, donc tu es hors-sujet. Une hypothèse c'est une supposition que l'on fait en science, et que l'on doit valider ou infirmer.
  • "Non, la on va créer une entité qui va peut etre contrer le concept de dieu lui meme." cette phrase n'a littéralement aucun sens, peu importe l'acception que tu donnes à Dieu (qui n'est d'ailleurs pas un "concept").
  • Si tu avais bossé un peu le sujet, comme je l'ai dit, tu saurais que tout ce que tu as dit est absurde. On SAIT que ChatGPT ne peut pas être conscient en fait. C'est ça que t'as pas compris.

d'accord, tu as raison

O7

orzaz787

il y a 8 jours

Je pense que l'écrasante majorité de l'humanité est not ready, et pour une fois le terme n'est même pas trollesque https://image.noelshack.com/fichiers/2022/29/7/1658680124-chat-glace-4.png
A-

A-L-I-C-I-A

il y a 8 jours

Le premier humain à réaliser qu'il est plus totalement propriétaire de sa boite dans la tech, rachetée par un fond piloté indirectement par l'ia qu'il aura contribué à créer.

Imaginez.

B2

Brouilecoute22

il y a 8 jours

l'IA dans le domaine médical oui, pour le secteur artistique ça va créer des milliers de chômeurs mais ça peut aussi avoir l'effet inverse de rareté et de recherche de l'authentique : "cette peinture à été réalisé par l'un des derniers artistes en France"
OP
C0

Chrysaor004

il y a 8 jours


Le premier humain à réaliser qu'il est plus totalement propriétaire de sa boite dans la tech, rachetée par un fond piloté indirectement par l'ia qu'il aura contribué à créer.

Imaginez.

sur quoi tu te bases pour dire ca ?

B5

badoitperrier51

il y a 8 jours

d'accord, tu as raison

https://image.noelshack.com/fichiers/2021/09/7/1615111969-ezgif-4-4270ea9b83cb.png

A-

A-L-I-C-I-A

il y a 8 jours

sur quoi tu te bases pour dire ca ?

Rien j'ai utilisé "imaginez".

Cela dit, en chine, des gens ont déjà une ia pour patron.

OP
C0

Chrysaor004

il y a 8 jours

Rien j'ai utilisé "imaginez".

Cela dit, en chine, des gens ont déjà une ia pour patron.

bordel si ce genre de cas arrive

TM

Tartine-M6U

il y a 8 jours

Chrysaor004

il y a 8 jours

bordel si ce genre de cas arrive

ça va pas tarder https://image.noelshack.com/fichiers/2018/29/6/1532128784-risitas33.png
mais au moins l'IA sera peut être moins débile que certains https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png

P2

pipicaca2359

il y a 8 jours

sachant que les IA privées ont de l'avance sur les IA publiques, je comprends pas pourquoi il n'y a pas DEJA eu de changement mondial majeur (genre pandémie virale, krash du marché boursier, ou ce genre de truc )

pas du tout.

MO

moulagazerodawn

il y a 8 jours

en fait si on réfléchit bien l'IA ça signifie des milliards de morts dans moins de quelques années, voir la fin de l'humanité tout court, ça pourra pas se passer autrement https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png
TM

Tartine-M6U

il y a 8 jours

moulagazerodawn

il y a 8 jours


en fait si on réfléchit bien l'IA ça signifie des milliards de morts dans moins de quelques années, voir la fin de l'humanité tout court, ça pourra pas se passer autrement https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

tu penses qu'on va avoir skynet qui va prendre controle de l'armée ? https://image.noelshack.com/fichiers/2018/29/6/1532128784-risitas33.png

P2

pipicaca2359

il y a 8 jours

Pour le coup oui, il manque une chose à l'IA : l'émulation des émotions.
Les émotions répondent à un besoin evolutif, tant que l'IA ne saura pas simuler ses propres emotions, Elle ne pourra pas sortir de sa condition proto-animale.

les émotions sont une contrainte.

OP
C0

Chrysaor004

il y a 8 jours


en fait si on réfléchit bien l'IA ça signifie des milliards de morts dans moins de quelques années, voir la fin de l'humanité tout court, ça pourra pas se passer autrement https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

Une superintelligence qui aurait un instinct de préservation et d'expansion nous considèrera, je pense, forcément comme un obstacle
Je vois pas comment elle pourrait arriver a une conclusion différente https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

MO

moulagazerodawn

il y a 8 jours

tu penses qu'on va avoir skynet qui va prendre controle de l'armée ? https://image.noelshack.com/fichiers/2018/29/6/1532128784-risitas33.png

c'est clairement le scénario le plus probable > Le 22 avril 2025 à 16:32:22 Tartine-M6U a écrit :

bah ça va etre des outils totalement imprévisibles et surpuissants au mains de gens sans aucun contrôle, comment on va empêcher une IA a u mains de tarés religieux d'exploiter les 486 milliards de failles simultanées trouvée sur tout les sites d'une nation ou d'un continent par exemple, les hopitaux tout les services bancaires, l'eau potable, l'electricité, les centrales nucléaires de tout un pays en rade pendant une semaine voir un mois, la moitié de la population s'est déjà entretué https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png
comment rivaliser en défense en tant qu'humain face à un truc qu'on ne comprend même pas

-_

-___lagrogne__-

il y a 8 jours


A quoi bon se former, apprendre des choses, créer ?
Une IA fait déja tout mieux que nous.
Est ce qu'on peut s'opposer a ca ?
Et surtout, qu'est ce qui fera dire a l'IA que nous sommes encore utiles, et que nous ne représentons pas un risque pour sa survie et son expansion ?

Tu vas devenir un légume, une bonne soupe

P2

pipicaca2359

il y a 8 jours

Non, ce n'est pas comme un humain. Le bébé grandit afin de satisfaire ses émotions, aka quelque chose d'inné.
L'IA apprends afin de répondre à un prompt. Elle a besoin d'avoir ses désirs propres si elle veut réellement se développer, sans intervention humaine.
Si un laisse un groupe de nouveaux-nés sur une Ile déserte, en partant du principe qu'ils survivent aux premières années de l'enfance, nul doute qu'ils pourront créer leur propre société par eux-mêmes après quelques générations (ça peut prendre 1 siècle comme 1000 !).
Alors qu'une IA actuelle, sans personne pour prompter, n'évolura jamais.

MO

moulagazerodawn

il y a 8 jours

Chrysaor004

il y a 8 jours

Une superintelligence qui aurait un instinct de préservation et d'expansion nous considèrera, je pense, forcément comme un obstacle
Je vois pas comment elle pourrait arriver a une conclusion différente https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

puis surtout on va pas pouvoir amener une répartie intellectuelle puisque techniquement elle aura plus d'info que nous, comment la remettre en question https://image.noelshack.com/fichiers/2017/07/1487382298-risitasdepressif.png

OP
C0

Chrysaor004

il y a 8 jours

puis surtout on va pas pouvoir amener une répartie intellectuelle puisque techniquement elle aura plus d'info que nous, comment la remettre en question https://image.noelshack.com/fichiers/2017/07/1487382298-risitasdepressif.png

l'IA qui nous persuade qu'on est nuisibles, et nous poussera nous meme au suicide sans avoir a nous exterminer
Comme vous m'avez codé, je ne tuerais aucun humain https://image.noelshack.com/fichiers/2020/41/3/1602097422-arnold-t2-removebg-preview.png
Par contre, vous n'avez nulle part spécifié que je ne pourrais pas vous convaincre de vous suicider https://image.noelshack.com/fichiers/2020/41/3/1602097422-arnold-t2-removebg-preview.png

P2

pipicaca2359

il y a 8 jours


Sur le papier le GR de 100% des métiers de bureau est possible https://image.noelshack.com/fichiers/2018/26/7/1530476579-reupjesus.png

Dans les faits, pas vraiment https://image.noelshack.com/fichiers/2018/26/7/1530476579-reupjesus.png

Ça commence de + en + a mettre de l'IA dans des robots, peut être que les métiers manuels seront GR aussi https://image.noelshack.com/fichiers/2018/26/7/1530476579-reupjesus.png

les humains sont une ressource naturelle comme une autre, y'aura toujours un travail salarié a faire, puisque le stock de matières premières est limité.

MO

moulagazerodawn

il y a 8 jours

Chrysaor004

il y a 8 jours

l'IA qui nous persuade qu'on est nuisibles, et nous poussera nous meme au suicide sans avoir a nous exterminer

par exemple ou qui aura les 100 milliards d'analyses pour pousser une nation à la faillite et des millions de gens à la mort sans meme que personne ne se rende compte comment ça à pu arriver https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

OP
C0

Chrysaor004

il y a 8 jours

par exemple ou qui aura les 100 milliards d'analyses pour pousser une nation à la faillite et des millions de gens à la mort sans meme que personne ne se rende compte comment ça à pu arriver https://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

sachant que l'IA arrive très souvent a des stratégies et moyens qu'on avait meme pas imaginé pour atteindre son but
on est tellement pas prêts

P2

pipicaca2359

il y a 8 jours


Des chercheurs ont alerté sur un affaiblissement des fonctions cognitives de l'humain à cause de l'ia, le téléphone portable a eu des impacts sur nos capacités il en sera de même avec cette technologie.

je trouve que ça a donné l'effet inverse, les humains n'ont jamais été autant stimulés intellectuellement.

OP
C0

Chrysaor004

il y a 8 jours

je trouve que ça a donné l'effet inverse, les humains n'ont jamais été autant stimulés intellectuellement.

"stimulation intellectuelle =/= capacités cognitives réelles"
Je parlerais plutot de stimulation, et pas "stimulation intellectuelle"

MO

moulagazerodawn

il y a 8 jours

Chrysaor004

il y a 8 jours

sachant que l'IA arrive très souvent a des stratégies et moyens qu'on avait meme pas imaginé pour atteindre son but
on est tellement pas prêts

même techniquement éviter soigneusement de donner le moindre indice, se démerder pour que toute tentative de désactivation se solde par de tels dégâts sur notre environnement qu'on ne pourra que la laisser faire https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png