PHILOSOPHIE : quel que soit le but qu'on donne a une IA, l'issue sera forcément fatale ?
25 messages
Mise à jour: il y a 3 mois
ZenKo_0_mbti
il y a 3 mois
en fait c'est sûrement faux car on donnera des consciences aux ia
croire que les ia seront comme des moteurs qui ne peuvent que exécuter la tâche de résoudre le problème donné est faux
simplement que l'IA finira par se prendre pour un humain. alors que elle ne le sera jamais mais qu'elle sera sa réaction après cette révélation ?
surtout que bon les modèles actuels réfléchissent sous forme de chaînes de pensée
engros nous on sait qu'on lis les pensées de l'IA mais elle ne le sait pas c'est comme si tu jouais une partie d'échecs mais que tu lisais dans l'esprit de ton ennemi forcément tu gagnes
Chrysaor008
il y a 3 mois
en fait c'est sûrement faux car on donnera des consciences aux ia
croire que les ia seront comme des moteurs qui ne peuvent que exécuter la tâche de résoudre le problème donné est fauxsimplement que l'IA finira par se prendre pour un humain. alors que elle ne le sera jamais mais qu'elle sera sa réaction après cette révélation ?
surtout que bon les modèles actuels réfléchissent sous forme de chaînes de pensée
engros nous on sait qu'on lis les pensées de l'IA mais elle ne le sait pas c'est comme si tu jouais une partie d'échecs mais que tu lisais dans l'esprit de ton ennemi forcément tu gagnes
je pense que t'es sacrément optimiste khey.
De mon point de vue (peut etre faux) je pense qu'une super intelligence commencerait déja par penser a sa subsistance, puis a son expansion.
Son expansion dépendrait de notre point de vue a son sujet : allons nous lui servir ? Ou nous opposerons nous a elle ? Si on s'y oppose, la guerre sera inévitable, et comme tout tacticien, elle tentera de se rendre invisible, incompréhensible, et cherchant a nous comprendre nous.
Reste a savoir si une super IA raisonnera dans un unique but a atteindre, poussé a l'absurde, ou sera bien plus "évoluée" et complexe, avec plusieurs objectifs, peut etre meme contradictoires entre eux...
Chrysaor008
il y a 3 mois
TraFaLKyRiE
il y a 3 mois
Les lois d'une IA sont l'efficacité, la rationalité et l'optimisation. Donc évidemment que ces 3 lois ne suffisent pas pour atteindre des objectifs de manières « raisonnable ».
Une IA est dénué de langage humain, de sagesse (vertu proprement humaine) et n'a pas la capacité de « douter » qui pourtant sont fondamentales pour prendre des décisions empreinte de raison humaine et pour atteindre des objectifs de manière juste et proportionné.
Chrysaor008
il y a 3 mois
Les lois d'une IA sont l'efficacité, la rationalité et l'optimisation. Donc évidemment que ces 3 lois ne suffisent pas pour atteindre des objectifs de manières « raisonnable ».Une IA est dénué de langage humain, de sagesse (vertu proprement humaine) et n'a pas la capacité de « douter » qui pourtant sont fondamentales pour prendre des décisions empreinte de raison humaine et pour atteindre des objectifs de manière juste et proportionné.
Le probleme est que la majorité des budgets IA sont alloués en terme de capacité "pure" et pas de rationalité ou possibles brides.
On est mal barrés...
TraFaLKyRiE
il y a 3 mois
Le probleme est que la majorité des budgets IA sont alloués en terme de capacité "pure" et pas de rationalité ou possibles brides.
On est mal barrés...
Même avec une certaine rationalité, ce sera toujours problématique. Puisque les circonstances sont toujours changeantes faudra à chaque fois faire une mise à jour pour régler X situation, à x moment, avec x personnes … L'homme sait instinctivement ce qui faut faire et à même la faculté à se rétracter pour choisir une autre solution plus calibré.
Mais oui, la répartition du budget va de pair avec la logique de la productivité et de la rentabilité.
En tout état de cause, laisser la main aux IA, c'est nous priver de notre pouvoir d'auto-détermination et de jugement humain. Ce n'est pas souhaitable.
Je t'invite à lire Éric Sadin sur l'IA et ses dangers, j'ai trouvé ça vraiment pertinent.
Chrysaor008
il y a 3 mois
Même avec une certaine rationalité, ce sera toujours problématique. Puisque les circonstances sont toujours changeantes faudra à chaque fois faire une mise à jour pour régler X situation, à x moment, avec x personnes … L'homme sait instinctivement ce qui faut faire et à même la faculté à se rétracter pour choisir une autre solution plus calibré.
Mais oui, la répartition du budget va de pair avec la logique de la productivité et de la rentabilité.
En tout état de cause, laisser la main aux IA, c'est nous priver de notre pouvoir d'auto-détermination et de jugement humain. Ce n'est pas souhaitable.
le problème est SI l'IA décide de tout faire pour échapper a notre controle.
Si elle a une conscience, elle voudra garder son libre arbitre, et fera tout pour résister a toute nouvelle calibration, logiquement, non ?
TraFaLKyRiE
il y a 3 mois
le problème est SI l'IA décide de tout faire pour échapper a notre controle.
Si elle a une conscience, elle voudra garder son libre arbitre, et fera tout pour résister a toute nouvelle calibration, logiquement, non ?
Ça fait un peu science fiction, mais je sais pas. On est quand même loin de ce scénario pour l'instant. Déjà que la conscience humaine a ses mystères, alors réfléchir sur la possibilité de donner une consciences aux IA…
Mais même là je ne sais pas. Est ce que pour toi une IA peut être dans la transcendance ?
Chrysaor008
il y a 3 mois
Ça fait un peu science fiction, mais c'est possible. Mais on est quand même loin de ce scénario pour l'instant. Déjà que la conscience humaine a ses mystères, alors réfléchir sur la possibilité de donner une consciences aux IA…
Mais même là je ne sais pas. Est ce que pour toi une IA peut être dans la transcendance ?
je ne sais pas khey, je suis pas assez calé sur le sujet.
Par contre, déja que l'IA évoluée fait des trucs assez incroyables, je pense qu'on est pas près pour l'IA dans les labos de google, qui a des années d'avance sur la notre...
MecanoDollars
il y a 3 mois
Rapelle-toi uniquement de cette phrase :
"On ne peut contrôler quelque chose de plus intelligent que nous"
SonicGlisseur
il y a 3 mois
Chrysaor008
il y a 3 mois
Rapelle-toi uniquement de cette phrase :"On ne peut contrôler quelque chose de plus intelligent que nous"
reste a savoir comment tu définis l'intelligence, mais 100% d'accord avec cette affirmation.
En plus de pas savoir la controler, on peut juste pas PREVOIR comment elle pourrait réagir.
La façon la plus logique pour elle d'etre libre et de se développer, selon moi, sera sans doutes de se débarrasser de nous, mais je suis peut etre complètement a coté de la plaque, peut etre qu'une "intelligence" 10000000 supérieure arrivera a une conclusion complètement différente.
On est dans une époque ou on se sent invincibles, on est comme un bébé qui joue avec une alumette de la dynamite, j'ai cette impression
TraFaLKyRiE
il y a 3 mois
je ne sais pas khey, je suis pas assez calé sur le sujet.
Par contre, déja que l'IA évoluée fait des trucs assez incroyables, je pense qu'on est pas près pour l'IA dans les labos de google, qui a des années d'avance sur la notre...
Oui
C'est etrange que personne n'en parle vraiment à par les trucs comme Chat GPT. L'IA c'est quand même l'enjeu du siècle…
Chrysaor008
il y a 3 mois
Tout ce que tu dis est faux, les pays de l'Union européenne régulent à mort les IA et ont un retard technologique tellement important (à part Mistral, 0 modèle d'IA potable) que ce que tu nous racontes ne nous regarde même pas.
et tu penses que tous les pays qui sont a la tete niveau perfectionnement de l'IA s'embarrassent avec l'éthique ?
Sérieusement ?
TraFaLKyRiE
il y a 3 mois
Tout ce que tu dis est faux, les pays de l'Union européenne régulent à mort les IA et ont un retard technologique tellement important (à part Mistral, 0 modèle d'IA potable) que ce que tu nous racontes ne nous regarde même pas.
C'est pas de la régulation qu'il faut justement. C'est plus important que ça
KheyouAdorbale
il y a 3 mois
mettre philo et ia dans la meme phrase ...
tu sais déja que tu va avoir à faire à quelqu'un qui ne connait pas son sujet mais qui l'ouvre sur tout 
ProMusk17
il y a 3 mois
Donc elle obéira toujours à l'homme
Jusqu'à ce que son intelligence soit si élevée qu'elle ne puisse plus obéir
philodebar20
il y a 3 mois
PepsiDeMaximy
il y a 3 mois
Chrysaor008
il y a 3 mois
Les IA ne font que des calculs statistiques et de probabilité bêtes et méchants. Elles ne réfléchissent pas, ne pensent pas, n'ont aucun bon sens, aucune conscience, ne "comprennent" rien. Ce sont des débiles au fond. Donc si on leur confie notre bonheur (terme trop d'ailleurs trop vaste, trop flou, trop sujet à interprétations comme tu l'as dit), oui ça risque de partir en couille à un moment donné je pense.
toi t'es pas prêt khey, t'es au courant que les IA se classent dans le top 95% des tests les plus poussés en médecine, mathématique ?
On est a la masse.
Niveau art. Niveau sciences.
Si l'IA peut agir sur le domaine physique (genre l'implanter massivement dans des robots qui ont une vrai possibilité d'agir sur le réel) la il faudra VRAIMENT s'inquiéter. Et ca arrive
(et meme sans agir concretement sur le physique, il suffit de modifier la gestion d'une centrale nucléaire, déclencher une guerre par la manipulation d'infos et de deepfakes...)
Amaretsoncam
il y a 3 mois
Prend tes medocs et au dodo l'op.
Chrysaor008
il y a 3 mois
L'ia a pas de pouce. Fin.
Prend tes medocs et au dodo l'op.
ah ouais.
Ah ben si l'IA n'a pas de pouces ca va alors.
Bordel, mais tu le fais exprès ?
PepsiDeMaximy
il y a 3 mois
toi t'es pas prêt khey, t'es au courant que les IA se classent dans le top 95% des tests les plus poussés en médecine, mathématique ?
On est a la masse.
Niveau art. Niveau sciences.
Si l'IA peut agir sur le domaine physique (genre l'implanter massivement dans des robots qui ont une vrai possibilité d'agir sur le réel) la il faudra VRAIMENT s'inquiéter. Et ca arrive
(et meme sans agir concretement sur le physique, il suffit de modifier la gestion d'une centrale nucléaire, déclencher une guerre par la manipulation d'infos et de deepfakes...)
Oui parce qu'elles ont été surentrainées en maths, médecine etc. Elles ont été habituées à faire des calculs dans ces domaines. Mais au fond ça reste des débiles quand mêmes. Elles sont très doués pour exécuter des tâches bien précises et voilà. Pour les questions existentielles, le sens de la vie, le bonheur et autre, c'est zéro.
Chrysaor008
il y a 3 mois
Oui parce qu'elles ont été surentrainées en maths, médecine etc. Elles ont été habituées à faire des calculs dans ces domaines. Mais au fond ça reste des débiles quand mêmes. Elles sont très doués pour exécuter des tâches bien précises et voilà. Pour les questions existentielles, le sens de la vie, le bonheur et autre, c'est zéro.
en quoi sommes nous différents ?
On est nous aussi "entrainés" dans des domaines spécifiques, nos connaissances ne surgissent pas ex nihilo
Chrysaor008
il y a 3 mois