[ALERTE] Chat GPT brise les médecins
MonsterKhaotic
il y a 4 mois
Pingouin116 a écrit :
Donne moi un exemple
Récemment une IA a été soumise à un test avec un chrono, et elle a décidé d'elle-même (sans que ça soit indiqué dans son code ou dans des instructions), de modifier le chrono pour avoir plus de temps pour le test
Elle a compris que le chrono était une contrainte, qu'en augmentant le chrono elle aurait un avantage, et a pris la décision elle-même de modifier le chrono alors que ce n'était pas spécifié dans le test qu'elle pouvait le faire
Alors certes, c'est pas de l'intelligence digne d'Einstein, mais ça prouve qu'elles sont capables de prises de décisions et de raisonnement logique. Et si t'as pas 20 de QI tu réalises que c'est très marquant comme évènement, même si ça peut paraitre anodin
SemeLaPagaille
il y a 4 mois
De toute façon chatgpt est l'avenir et va révolutionner la façon de soigner les gens !! A bat les médecins avides et corrompus qui ne se soucient que de leur portefeuille !!!
Boitapomme
il y a 4 mois
Étude sur 50 médecins, pas viable pour l'instant, mais c'est peut être un avant goût de la destruction de l'ego des diplômés.
Melon-Me_Leche
il y a 4 mois
Récemment une IA a été soumise à un test avec un chrono, et elle a décidé d'elle-même (sans que ça soit indiqué dans son code ou dans des instructions), de modifier le chrono pour avoir plus de temps pour le test
![]()
Elle a compris que le chrono était une contrainte, qu'en augmentant le chrono elle aurait un avantage, et a pris la décision elle-même de modifier le chrono alors que ce n'était pas spécifié dans le test qu'elle pouvait le faire
![]()
Alors certes, c'est pas de l'intelligence digne d'Einstein, mais ça prouve qu'elles sont capables de prises de décisions et de raisonnement logique. Et si t'as pas 20 de QI tu réalises que c'est très marquant comme évènement, même si ça peut paraitre anodin
ça veut dire que l'IA a triché et na pas respecté les consignes, consignes qui sont respectées dans un test par éthique, chose que l'IA n'a pas.
c'est pas du tout un bon signe et ça veut dire qu'elle peut échapper à tout contrôle
je veux dire pas en mode skynet pour détruire l'univers mais plus en mode ne répond plus du tout au besoin et pas en freestyle
MBPGH
il y a 4 mois
De toute façon chatgpt est l'avenir et va révolutionner la façon de soigner les gens !! A bat les médecins avides et corrompus qui ne se soucient que de leur portefeuille !!!
c'est comme d'imaginer que chatgpt va remplacer ta petite copine.
ça n'a aucun sens et ça ne fonctionnera jamais.
Sinon oui l'IA s'intégrera à la technique médicale(tout comme la technologie vient aider l'humain en chirurgie, elle ne remplace pas le chirurgien). Mais elle ne remplacera pas l'humain.
ça renforcera l'importance du contact humain au contraire.
LastTry4
il y a 4 mois
Ayaaaa les médecins qui utilisent l'IA mais ne remettent pas leur propre jugement en cause
MonsterKhaotic
il y a 4 mois
Melon-Me_Leche a écrit :
ça veut dire que l'IA a triché et na pas respecté les consignes, consignes qui sont respectées dans un test par éthique, chose que l'IA n'a pas.
c'est pas du tout un bon signe et ça veut dire qu'elle peut échapper à tout contrôle
je veux dire pas en mode skynet pour détruire l'univers mais plus en mode ne répond plus du tout au besoin et pas en freestyle
Oui c'est vrai tu as raison, mais ça veut quand même dire qu'elle a été capable de prendre des décisions. Après oui, l'encadrement des IA est un sujet sérieux, et j'ai espoir que les ingénieurs qui bossent dessus sauront mettre assez de garde fou pour éviter qu'elles nous échappent
Ton AI androïde en 2060 qui te répond "flemme fdp" quand tu lui demandes de faire le ménage
Pingouin116
il y a 4 mois
Avec ca tu peux dire que tous les programmes de machine learning sont créatifs c'est juste de l'optimisation selon les informations et les capacités qui lui sont donnés. Un vrai comportement indépendant aurait été de choisir de faire une autre tache qui l'intéresserait plus.
Là c'est toi qui lui imputes des intentions.
Ad hominem typique pour empêcher quelconque critique de ses idées.
Pingouin116
il y a 4 mois
ça veut dire que l'IA a triché et na pas respecté les consignes, consignes qui sont respectées dans un test par éthique, chose que l'IA n'a pas.
c'est pas du tout un bon signe et ça veut dire qu'elle peut échapper à tout contrôle
je veux dire pas en mode skynet pour détruire l'univers mais plus en mode ne répond plus du tout au besoin et pas en freestyle
Mais ayaaa
_Lighted_
il y a 4 mois
GrosQIGrosPENIS
il y a 4 mois
J'ai 100 FOIS PLUS CONFIANCE en une IA qui ingère et se souviens en permanence de millions d'informations, dont le traitement statistique de l'information est sans faille, sans biais, qu'en un médecin corruptible, plein de préjugés et qui tombe dans la facilité.
réel
HavenoBANNI
il y a 4 mois
Ben faites mieux. On a Mistral on a tout ce qu'il faut pour concurrencer. Injectons leur le pognon nécessaire, faisons de la France le leader européen en terme de blockchain / IA on a toutes les ressources nécessaires pour y arriver.
Mais vous allez parler de :
- Blockchain
- IA
- Machine learning
- Cybersécurité de masseA des putains de boomers et jeunes Tiktokers quoicoubiens qui vivent sous le prisme de "gneugnegu gauch genguengneu strème droate, gngeugenNGEEUUU rassism gnegueNNUEEHHH CNEWS"
Ça sert à rien.
je pense qu'il vaut mieux faire une loi pour taxer l'intelligence artificielle
PseudoBan100
il y a 4 mois
Et chatgpt il va t'operer ?
Thefrenchfrog
il y a 4 mois
Ce serais bien que ça devienne une réalité, marre de l'incopétence générale, vivement que l'AI grand remplace la majorité des jobs
Melon-Me_Leche
il y a 4 mois
je pense qu'il vaut mieux faire une loi pour taxer l'intelligence artificielle
Chocolate
il y a 4 mois
Et chatgpt il va t'operer ?
Ils y travaillent.
Bahar
il y a 4 mois
Vous pensez qu'on aura les ressources nécessaires pour construire autant de robots qu'il en faut pour remplacer tous les métiers ?
l'IA ça a une empreinte carbone bien salée en vrai, pas sûr que ça soit très future proof à moins de révolutionner la fusion nucléaire
Avdeeva
il y a 4 mois
Intérêt de s'aider d'une IA si c'est pour ne pas écouter la réponse de l'IA ?
C'est comme ceux qui demandent conseil mais écoutent pas si ça va pas, ben demande pas
ShayMaria
il y a 4 mois
C'est surtout que le niveau des médecins aujourd'hui est catastrophique.
En tant que dev j'ai souvent entendu qu'il faut être "passionné" pour être dev, c'est faux. Tu peux être un dev tout en considérant ton travail comme un job comme un autre, ça n'impacte personne à part toi (et ta carrière). Un médecin, lui, DOIT être passionné, il "joue" avec la vie des gens.
Le nombre de médecin qui traitent les patients comme des "clients" c'est probablement 90% aujourd'hui, c'est catastrophique. Tu vas voir un spécialiste, le mec est AU MEME niveau qu'un généraliste : auscultation de 5 min. et une prescription, 0 suivi, 0 anamnèse.
Les médecins des anciennes générations vous le diront.
MinouSage
il y a 4 mois
bah c'est probablement que tu es un bas QI.
un sous humain en voie de remplacement.
chatgpt on peut lui faire dire ce qu'on veut, c'est à dire tout et son contraire.
Alors que ton généraliste qui prenait 800 balles supplémentaires par jour de l'Etat pour vacciner les gens du covid on peut pas lui faire dire ce qu'on veut
Ton généraliste qui lui-même te dit qu'il faut pas écouter internet pour faire ton propre diagnostic alors qu'en 3 sec sur google t'as toujours eu raison sur tout
Melon-Me_Leche
il y a 4 mois
Vous pensez qu'on aura les ressources nécessaires pour construire autant de robots qu'il en faut pour remplacer tous les métiers ?l'IA ça a une empreinte carbone bien salée en vrai, pas sûr que ça soit très future proof à moins de révolutionner la fusion nucléaire
l'IA a une sale empreinte carbone mais toujours moins que la finance, que les milliards de voitures produites, que les avions, que les immenses portes-containers remplis de merdes chinoises, que le bitecon etc
Bref toute les merdes issuent de la société de consommation totalement inutiles à l'humanité dans l'absolue qui n'ont d'intérêt que dans le cadre du système
Alors que l'IA a le potentiel de solutionner de grands problèmes de l'humanité justement
MonsterKhaotic
il y a 4 mois
MinouSage a écrit :
Alors que ton généraliste qui prenait 800 balles supplémentaires par jour de l'Etat pour vacciner les gens du covid on peut pas lui faire dire ce qu'on veut
Ton généraliste qui lui-même te dit qu'il faut pas écouter internet pour faire ton propre diagnostic alors qu'en 3 sec sur google t'as toujours eu raison sur tout
Melon-Me_Leche
il y a 4 mois
C'est surtout que le niveau des médecins aujourd'hui est catastrophique.En tant que dev j'ai souvent entendu qu'il faut être "passionné" pour être dev, c'est faux. Tu peux être un dev tout en considérant ton travail comme un job comme un autre, ça n'impacte personne à part toi (et ta carrière). Un médecin, lui, DOIT être passionné, il "joue" avec la vie des gens.
Le nombre de médecin qui traitent les patients comme des "clients" c'est probablement 90% aujourd'hui, c'est catastrophique. Tu vas voir un spécialiste, le mec est AU MEME niveau qu'un généraliste : auscultation de 5 min. et une prescription, 0 suivi, 0 anamnèse.
Les médecins des anciennes générations vous le diront.
pour le dev c'est parce qu'historiquement c'est une sphère de passionnés qui ont inventé l'informatique
ça a bien servi les intérêts de capital pour les faire bosser à outrance au nom d'el famoso "passion"
et c'est resté jusqu'à aujourd'hui on t'as encore des gros geeks passionnés avec peu de confiance en eux qui ne savent pas dire non et sont des larbins
Faut faire des projets perso en plus de ton CV ? ah bah d'accord c'est normal
Faut se former à la maison afin de travailler sur un nouveau projet ? bah oui c'est normal c'est pas au patron de payer des formations après tout je vais faire ça sur mon temps perso car c'est ma PASSION
Genre on demande à un menuiser de construire des meubles chez lui avant de postuler quelque part ?
Pour les médecins c'est pareil, historiquement c'était que des gars deter mais y'a pas de raison que ça ne soit pas un boulot comment un autre
ShayMaria
il y a 4 mois
pour le dev c'est parce qu'historiquement c'est une sphère de passionnés qui ont inventé l'informatique
ça a bien servi les intérêts de capital pour les faire bosser à outrance au nom d'el famoso "passion"
![]()
et c'est resté jusqu'à aujourd'hui on t'as encore des gros geeks passionnés avec peu de confiance en eux qui ne savent pas dire non et sont des larbins
Faut faire des projets perso en plus de ton CV ? ah bah d'accord c'est normal
Genre on demande à un menuiser de construire des meubles chez lui avant de postuler quelque part ?
Pour les médecins c'est pareil, historiquement c'était que des gars deter mais y'a pas de raison que ça ne soit pas un boulot comment un autre
Bah si justement, relis mon post : un médecin n'est pas un métier comme un autre, il a ta vie entre ses mains.
Melon-Me_Leche
il y a 4 mois
Bah si justement, relis mon post : un médecin n'est pas un métier comme un autre, il a ta vie entre ses mains.
osef, t'as plein de métier qu'ont des vies entre les mains, c'est un métier comme les autres
t'as trop une version romantique de la médecine
GravillonOrigin
il y a 4 mois
Pas besoin de ChatGPT pour prescrire du Doliprane
ShayMaria
il y a 4 mois
osef, t'as plein de métier qu'ont des vies entre les mains, c'est un métier comme les autres
t'as trop une version romantique de la médecine
Bah non, et je suis bien placé pour le savoir, je viens à la foi d'une famille de médecin, et j'ai des problèmes de santé en ce moment. Non c'est pas un métier comme un autre.
MaggieLindemann
il y a 4 mois
Bah si justement, relis mon post : un médecin n'est pas un métier comme un autre, il a ta vie entre ses mains.
Plein de métiers ont une incidence sur la vie.
Les ingénieurs génie civil doivent faire en sorte que le béton armé est suffisant pour tenir en cas de tremblement de terre par exemple (coucou les Turcs )
Ou les ingénieurs qui design un airbag, que ce dernier protège correctement en cas de choc (coucou Stellantis )
ShayMaria
il y a 4 mois
Plein de métiers ont une incidence sur la vie.
Les ingénieurs génie civil doivent faire en sorte que le béton armé est suffisant pour tenir en cas de tremblement de terre par exemple (coucou les Turcs )
Ou les ingénieurs qui design un airbag, que ce dernier protège correctement en cas de choc (coucou Stellantis )
C'est beaucoup plus indirecte que le médecin. C'est pas pour rien qu'il y a un serment pour les médecins et pas pour le reste.
Le médecin a un rôle à part dans la société, ça a toujours été comme ça, même il y a 10 000 ans, l'équivalent du médecin était une personne à part dans une communauté. C'est juste totalement incomparable. Après si tu trouves que c'est normal d'être traité comme un client et non un patient c'est ton problème, mais tu en payeras le prix.
Calais
il y a 4 mois
Les idiots qui pensent que chatGPT va remplacer les médecins.
Les IA vont aider les médecins, pas les remplacer.
Ça sera un outil additionnel qui permettra d'améliorer les diagnostics et de détecter précocement des tas de maladie.
Par exemple un cliché de scanner assez flou avec un problème pas très visible sera davantage mis en avant par une IA ce qui permettra au médecin de voir et/ou de prendre plus de précaution avec certaines pathologies. De plus ça réduira les erreurs qui peuvent hélas toujours arriver.
Et je ne parle même pas des applications de l'IA dans la recherche médical qui sont majeurs pour l'avenir de la recherche.
Mais bon sur ce forum ça boucle sur « les IA vont remplacer les médecins » alors que ça n'a jamais été la question.
AttackerFois
il y a 4 mois
Les médecins vont se faire remplaced, surtout ceux qui font des diagnostiques
Je ne sais pas combien de temps les gens vont supporter les 6 mois d'attente pour les 30 secondes de diagnostiques avec, au mieux, 75% d'accuracy, et pour 25-100€, alors que l'AI fera ça gratuitement et en 10 secondes avec 99% d'accuracy
Melon-Me_Leche
il y a 4 mois
Bah non, et je suis bien placé pour le savoir, je viens à la foi d'une famille de médecin, et j'ai des problèmes de santé en ce moment. Non c'est pas un métier comme un autre.
bah c'est bien ce que je dis, t'as une version romantique du médecin
j'yt travaille je sais comment ça fonctionne, t'as forcément une deshumanisation du boulot surtout en chirurgie ou au final le boulot est principalement technique. et c'est pas nouveau, ça pas popé avec la nouvelle génération
La vraie vie c'est pas dr house avec le médecin qui va tout faire pour sauver son patient qui se ballade avec son caducée "laissez moi passer je suis médecin !"
non les médecins ont une vie normale, comme les gens normaux des fois le taff ça leur casse les couilles même si ils aiment, quand le boulot est fini ils ont envie de vivre leur vie et pas penser au boulot, leur but c'est d'augmenter leurs revenus au fil de leur carrière etc
si tu commences à t'impliquer émotionnellement H24 avec tous tes patients tu tiens pas 2 mois
La-hp-ma-tuer
il y a 4 mois
l'IA risque pas de bullshiter dans ses diagnostics?
Dans mon domaine l'IA donne des réponses qui ont l'air cohérentes en apparence mais sont souvent erronées voir carrément inventées
MaggieLindemann
il y a 4 mois
C'est beaucoup plus indirecte que le médecin. C'est pas pour rien qu'il y a un serment pour les médecins et pas pour le reste.
Le médecin a un rôle à part dans la société, ça a toujours été comme ça, même il y a 10 000 ans, l'équivalent du médecin était une personne à part dans une communauté. C'est juste totalement incomparable. Après si tu trouves que c'est normal d'être traité comme un client et non un patient c'est ton problème, mais tu en payeras le prix.
Vachement indirect les structures d'immeubles dans les zones à tremblements de terre
Et un médecin généraliste qui redirige vers un spécialiste au moindre truc un peu suspect c'est pas indirect?
Mais je suis d'accord avec toi sur le fait que ça devrait avoir un rôle spécifique dans une société sauf que ce n'est pas le cas de la médecine occidentale moderne. La majorité des docteurs aujourd'hui font 0 prevention, quand ils reçoivent un patient pour un problème X ils se contentent d'essayer de résoudre le problème X sans essayer de comprendre d'où ça peut venir.
Chocolate
il y a 4 mois
Bah si justement, relis mon post : un médecin n'est pas un métier comme un autre, il a ta vie entre ses mains.
T'as le même tic de langage que moi à commencer tes messages par "Bah".
MaggieLindemann
il y a 4 mois
Les idiots qui pensent que chatGPT va remplacer les médecins.Les IA vont aider les médecins, pas les remplacer.
Ça sera un outil additionnel qui permettra d'améliorer les diagnostics et de détecter précocement des tas de maladie.Par exemple un cliché de scanner assez flou avec un problème pas très visible sera davantage mis en avant par une IA ce qui permettra au médecin de voir et/ou de prendre plus de précaution avec certaines pathologies. De plus ça réduira les erreurs qui peuvent hélas toujours arriver.
Et je ne parle même pas des applications de l'IA dans la recherche médical qui sont majeurs pour l'avenir de la recherche.
Mais bon sur ce forum ça boucle sur « les IA vont remplacer les médecins » alors que ça n'a jamais été la question.
Ceci, comme pour les devs d'ailleurs. Faut vraiment pas avoir passé beaucoup de temps sur chatGPT pour penser que ce soit + qu'un outil
Melon-Me_Leche
il y a 4 mois
l'IA risque pas de bullshiter dans ses diagnostics?
Dans mon domaine l'IA donne des réponses qui ont l'air cohérentes en apparence mais sont souvent erronées voir carrément inventées
bah oui on est loin d'un GR
l'IA aujourd'hui c'est juste une grosse boite noire qui donne des trucs cohérents
on sait qu'en tournant les boutons de cette manière ça marche pas trop mal mais on a aucune idée de comment ça fonctionne vraiment
mais c'est la même chose pour l'humain
J_O_Neil-SG1
il y a 4 mois
Haha trop marrant de voir une entreprise américaine faire bientôt crouler nos professions et notre économie
Si ca peut faire monter mon LQQ allons y
La-hp-ma-tuer
il y a 4 mois
bah oui on est loin d'un GR
l'IA aujourd'hui c'est juste une grosse boite noire qui donne des trucs cohérents
on sait qu'en tournant les boutons de cette manière ça marche pas trop mal mais on a aucune idée de comment ça fonctionne vraiment
mais c'est la même chose pour l'humain
Non mais ce que je veux dire c'est sur dans mon domaine l'IA bullshit carrément, c'est à dire qu'elle fait des belles phrases cohérentes mais quand tu vérifies les résultats elle prend les variables d'un élément et les attribue à un autre ou inventé des trucs randoms du coup c'est pas très applicatif à moins de passer des heures à vérifier la véracité des données
Donc je suis un peu étonné que ça puisse faire 90% de diagnostics fiables
Myopericardite2
il y a 4 mois
[13:17:33] <La-hp-ma-tuer>
l'IA risque pas de bullshiter dans ses diagnostics?
Dans mon domaine l'IA donne des réponses qui ont l'air cohérentes en apparence mais sont souvent erronées voir carrément inventées
Il faut savoir l orienter et l utiliser déjà pour des choses basiques
Perso quand c'est hors cardio, je lui demande des trucs du style :
Est ce que XX maladie a un retentissement sur le coeur ?
Là c'est du par cœur , de la définition d' effets indésirables donc il va pas se tromper.
Pareil normalement si je lui donne des symptômes et je lui demande quelle pathologie il peut avoir il va pas se tromper vu que c'est de la définition.
Évidemment avant d'en être sûr j'ai testé sur plein de pathologies cardiaques que je connais bien voir s'il disait pas de conneries.
Maintenant sur les prises en charges c'est différent.
Notamment pcq il y a plein de recommandations type ESC chez nous qui sortent tout le temps. Lui il risque de se tromper et donner des anciennes reco connues mais que l on n utilise plus.
J'ai essayé de lui donner plein d ECG a lire, il dit 5x des conneries avant de dire la bonne solution. Qand tu lui dis a chaque fois "t'es sûr?" il te répond un truc du genre "vous avez raison j'ai mal analysé c'est xxxx".
Donc en gros il est utile pour des définitions, des symptômes etc....mais pas pour analyser des choses concrètes.
De plus il faut toujours "traduire" ce que disent les patients + le contexte (âge, fdrcv, antécédents etc...).
Mais ça aide déjà quand même bien quand on sait s'en servir.
Melon-Me_Leche
il y a 4 mois
Non mais ce que je veux dire c'est sur dans mon domaine l'IA bullshit carrément, c'est à dire qu'elle fait des belles phrases cohérentes mais quand tu vérifies les résultats elle prend les variables d'un élément et les attribue à un autre ou inventé des trucs randoms du coup c'est pas très applicatif à moins de passer des heures à vérifier la véracité des données
Donc je suis un peu étonné que ça puisse faire 90% de diagnostics fiables
c'est peut être une mauvaise utilisation de l'IA dans ce cas
où un domaine non entrainé
plus t'as une grosse base d'entrée, plus les résultats sont fiables et les erreurs marginalisés c'est statistique
Teub-de-ouf
il y a 4 mois
bah oui on est loin d'un GR
l'IA aujourd'hui c'est juste une grosse boite noire qui donne des trucs cohérents
on sait qu'en tournant les boutons de cette manière ça marche pas trop mal mais on a aucune idée de comment ça fonctionne vraiment
mais c'est la même chose pour l'humain
GR_PAR_IA
il y a 4 mois
Les idiots qui pensent que chatGPT va remplacer les médecins.Les IA vont aider les médecins, pas les remplacer.
Ça sera un outil additionnel qui permettra d'améliorer les diagnostics et de détecter précocement des tas de maladie.Par exemple un cliché de scanner assez flou avec un problème pas très visible sera davantage mis en avant par une IA ce qui permettra au médecin de voir et/ou de prendre plus de précaution avec certaines pathologies. De plus ça réduira les erreurs qui peuvent hélas toujours arriver.
Et je ne parle même pas des applications de l'IA dans la recherche médical qui sont majeurs pour l'avenir de la recherche.
Mais bon sur ce forum ça boucle sur « les IA vont remplacer les médecins » alors que ça n'a jamais été la question.
Non, c'est pas idiot, c'est juste que c'est plus correct de dire "remplacer les médecins dans certaines tâches" pour qu'ils puissent passer plus du temps sur d'autres choses (et au passage bien aider les déserts médicaux) tout comme les développeurs devront passer plus de temps sur l'architecture que le pissage de code proprement dit.
Beaucoup de tâches en imagerie, lecture, interprétation et diagnostic différentiel pourront être délégués à l'IA, et même l'administratif qui est une perte de temps incommensurable pour peu qu'on aie les pieds dans le domaine médical.
Si ça peut faire bander les RSAistes du forum, oui je pense que les médecins seront de moins en moins nécessaires pour leurs connaissances, puisque les LLMs sont l'articulation de connaissances autrement déjà disponibles numériquement et gratuitement depuis des lustres. Mais ils ne seront pas remplacés non.
MaggieLindemann
il y a 4 mois
l'IA risque pas de bullshiter dans ses diagnostics?
Dans mon domaine l'IA donne des réponses qui ont l'air cohérentes en apparence mais sont souvent erronées voir carrément inventées
Aya je vois de ces trucs aussi parfois avec du code
- *insert le code* est-ce que cette fonction permet de faire X?
- Oui! Cette fonction permet de faire X correctement grâce à ….
- ah mais je viens de voir qu'à cause de cet élément Y en fait ça peut pas faire X
- effectivement! À cause de cet élément Y, votre fonction ne peut pas faire X
PuzzleFrame
il y a 4 mois
Haha trop marrant de voir une entreprise américaine faire bientôt crouler nos professions et notre économie
On parle de soigner les gens et tu nous sors ta reflexion de taré
MBPGH
il y a 4 mois