[BMG] PERSONNE sait comment FONCTIONNE l'IA :peur:
23 messages
Mise à jour: il y a 7 mois
BANRAPIDE111
il y a 7 mois
On est FINITO les KHEYS, FINITOOOOOOO
Je retourne dans mon bunker 
BardelIa
il y a 7 mois
Jpepes2
il y a 7 mois
BANRAPIDE111
il y a 7 mois
nobody knows exactly how or why deep learning, the fundamental technology behind today's AI boom, works.
https://www.technologyreview.com/2024/03/05/1089449/nobody-knows-how-ai-works/
Tirie14_1
il y a 7 mois
C'est du putaclic 
+
Et ? Tu sais comment ton chat ou ton poisson rouge prend ses décisions ? 
Ca change quoi au final ?
Casiscassoulet
il y a 7 mois
Arkhen_
il y a 7 mois
BANRAPIDE111
il y a 7 mois
C'est du putaclic
+
Et ? Tu sais comment ton chat ou ton poisson rouge prend ses décisions ?Ca change quoi au final ?
Mon poisson ne va pas voler mon travail
Tirie14_1
il y a 7 mois
Arkhen_
il y a 7 mois
On sait pas comment elle décide mais on sait dans quel but elle a été entrainée, donc tant qu'une IA très très généraliste n'existe pas on est tranquilles elle ne dérivera jamais de son but initial, qui lui est connu.
Et quant bien même elle "dériverait", il suffit de débrancher la prise pour la stopper
Les différentes IA ne communiquent pas entre-elles. Si elles le faisaient, on le verrait tout de suite. On verrait de l'activité, des sorties et entrées inconnues, etc...
On pourrait demain créer une IA totalement tarée qui veut juste buter tous les humains, et pourtant il ne se passerait rien (et des IA comme ça, il en existe déjà probablement, au moins dérivées des IA existantes et finetunées dans ce sens)
BANRAPIDE111
il y a 7 mois
On sait pas comment elle décide mais on sait dans quel but elle a été entrainée, donc tant qu'une IA très très généraliste n'existe pas on est tranquilles elle ne dérivera jamais de son but initial, qui lui est connu.
Tu fais quoi du problème d'alignement ?
SI pour atteindre le but elle prenait une décision imprévue et non désirable
persoent --> bunker
BANRAPIDE111
il y a 7 mois
Et quant bien même elle "dériverait", il suffit de débrancher la prise pour la stopper
Les différentes IA ne communiquent pas entre-elles. Si elles le faisaient, on le verrait tout de suite. On verrait de l'activité, des sorties et entrées inconnues, etc...
On pourrait demain créer une IA totalement tarée qui veut juste buter tous les humains, et pourtant il ne se passerait rien (et des IA comme ça, il en existe déjà probablement, au moins dérivées des IA existantes et finetunées dans ce sens)
va débrancher la prise de CHATGPT
BANRAPIDE111
il y a 7 mois
Embedding sur Google derien khey
Donc t'es capable de prévoir ce que va te sortir ton IA ?
[men_in_dark]
il y a 7 mois
Le prix Nobel de physique 2024 (un chercheur en IA) a fait un discours pour dire qu'il fallait faire très attention là dessus et que les risques sont grands 
pink_wojak3
il y a 7 mois
au pire on demande à l'IA elle même comment elle fonctionne 
Ass2Trefle
il y a 7 mois
Mon poisson ne va pas voler mon travail
Ça, c'est ce qu'il a réussi à te faire croire
[men_in_dark]
il y a 7 mois
Personne ne sait comment agirait une superintelligence pusiqu'elle pourrait faire des choses qu'on ne pourrait même pas imaginer. Comme se répliquer de manière indétectable etc…
Le problème c'est qu'on est maintenant engagés dans une course à l'armement en matière d'IA
Un genre de projet Manhattan 2 
Mais on sait pas quel effet aura la bombe
CiottiLeBoss
il y a 7 mois
PetiteChanclure
il y a 7 mois
Tirie14_1
il y a 7 mois
BANRAPIDE111
il y a 7 mois
va débrancher la prise de CHATGPT
C'est facile. Suffit de couper les serveurs, d'un simple blocage DNS, de ne plus laisser aucun accès web aux serveurs, etc...
Limite, le plus gros "danger", ce sont les IA open source accessibles gratuitement et téléchargeables
Une fois dans la nature, c'est "inarrêtable"
[men_in_dark]
il y a 7 mois
Un chercheur utilisait la métaphore du jeu d'échec contre un bot ou un grand champion
Au début tu fais jeu égal ou presque et d'un coup game over, en fait c'était prévu 30 coups à l'avance
L'IA semble limitée maintenant mais ça peut très vite changer. On peut penser à une IA tellement intelligente qu'elle se fait passer pour plus bête afin de gagner du temps et de manipuler tout le monde
Tirie14_1
il y a 7 mois
Ass2Trefle
il y a 7 mois
Ça, c'est ce qu'il a réussi à te faire croire
Le coup le plus rusé que le poisson rouge ait réussi, c'est de convaincre tout le monde qu'il n'existe pas 
El_Bean
il y a 7 mois
BANRAPIDE111
il y a 7 mois