Boucling

Donc, OPENAI sort un LLM de niveau AGREG DE MATHS

62 messages

Mise à jour: il y a 7 mois

2
DV

Dark-vg2

il y a 8 mois

Voilà, après il faut pas oublier qu'il n'y pas que les LLMs et des systèmes non-génératifs qui peuvent passer un processus rigoureux de formalisation.

Oui bien sur, mais c'est juste pour essayer de comprendre un peu mieux ce qu'apporte le génératif et quel sont les limitations
Parce-que si tu suis la hype tu as l'impression que l'humain va disparaître horizon 10 ans

GP

GR_PAR_IA

il y a 8 mois

Claude meilleur que mixstral pour du code ?

En général j'aurais tendance à dire que oui : https://image.noelshack.com/fichiers/2024/37/6/1726323201-screenshot-2024-09-14-161255.png

Cependant Mistral Large 2 peut s'avérer meilleur dans certaines technos, c'est pour ça il faut un peu tout tester. Mixtral j'utilise que en local si la confidentialité est importante (mais je ne peux que faire tourner le 8x7B au mieux sur mon ordi).

4H

4th_halving

il y a 8 mois

Bientôt les chiffrages en PLS.

JU

Juliecornes

il y a 8 mois

Super intéressant ça par contre
C'est un peu l'impression que j'ai et que, effectivement pour certaines taches, ie. Qui ne nécessitent pas 100% de précision mais une grande quantité de connaissance (diag medical par exemple) ou qui sont facile à vérifier("code" avec de gros guillemets), un LLM c'est génial
Par contre demander à un LLM un résultat critique qui doit etre fiable (autant en industrie qu'en science, ie. Une preuve par exemple), c'est vraiment pas une bonne idée

Disons que ça a été la plus grosse « pill » de ma vie, et je ne parle pas nécessairement d'IA.

J'étais très candide, et j'étais persuadé que toutes les plus grosses industries du monde utilisaient des technologies de haute pointe.

Puis j'ai compris que c'était impossible. Déjà pour des raisons de régulation, mais aussi pour des problèmes de coûts ou des problèmes de scalability.

Un exemple tout bête : quand un avionneur design un nouveau programme d'avion en utilisant un système, il est obligé de le garder jusqu'au design d'un nouveau programme, sinon il perd ses certifications de vol. (On a trop peur que dans la migration, il y ait des données qui soient corrompues/oubliées/incompatible avec un nouveau système).

Sauf qu'un programme, ça peut durer 30ans… donc pendant la phase de design d'un avion, ils utilisent des systèmes à la pointe de la technologie, et en fin de programme, ils ont un retard de 10-15ans sur la technologie.

J'ai vu d'autres industries qui étaient incapable de gérer leurs datas. Parce qu'ils génèrent plusieurs millions de datas par jours, ce qui rend impossible le tagging.

GP

GR_PAR_IA

il y a 8 mois

Oui bien sur, mais c'est juste pour essayer de comprendre un peu mieux ce qu'apporte le génératif et quel sont les limitations
Parce-que si tu suis la hype tu as l'impression que l'humain va disparaître horizon 10 ans

Je suis un doomer nihiliste et misanthrope, et pro-GR, donc j'espère que ça sera le cas. https://image.noelshack.com/fichiers/2021/43/4/1635454847-elton-john-tison-golem.png

Mais en réalité, il faut admettre que les LLMs sont une énorme bulle qui ne va que faciliter quelques métiers sans les remplacer. Par contre ce n'est pas dit que d'autres architectures plus intéressantes vont voir le jour et vraiment faire le ménage, mais il faudra peut-être attendre... les réseaux neuronaux on les connaît bien depuis les années 50 déjà. https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png

JU

Juliecornes

il y a 8 mois

Je suis un doomer nihiliste et misanthrope, et pro-GR, donc j'espère que ça sera le cas. https://image.noelshack.com/fichiers/2021/43/4/1635454847-elton-john-tison-golem.png

Mais en réalité, il faut admettre que les LLMs sont une énorme bulle qui ne va que faciliter quelques métiers sans les remplacer. Par contre ce n'est pas dit que d'autres architectures plus intéressantes vont voir le jour et vraiment faire le ménage, mais il faudra peut-être attendre... les réseaux neuronaux on les connaît bien depuis les années 50 déjà. https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png

Je ne sais pas si tu connais Pasqal, mais quand tu vas sur leurs sites : https://www.noelshack.com/2024-37-6-1726323654-img-3263.png

Et là par contre ça fait « flipper » cette avancée de techno.

DV

Dark-vg2

il y a 8 mois

Disons que ça a été la plus grosse « pill » de ma vie, et je ne parle pas nécessairement d'IA.

J'étais très candide, et j'étais persuadé que toutes les plus grosses industries du monde utilisaient des technologies de haute pointe.

Puis j'ai compris que c'était impossible. Déjà pour des raisons de régulation, mais aussi pour des problèmes de coûts ou des problèmes de scalability.

Un exemple tout bête : quand un avionneur design un nouveau programme d'avion en utilisant un système, il est obligé de le garder jusqu'au design d'un nouveau programme, sinon il perd ses certifications de vol. (On a trop peur que dans la migration, il y ait des données qui soient corrompues/oubliées/incompatible avec un nouveau système).

Sauf qu'un programme, ça peut durer 30ans… donc pendant la phase de design d'un avion, ils utilisent des systèmes à la pointe de la technologie, et en fin de programme, ils ont un retard de 10-15ans sur la technologie.

J'ai vu d'autres industries qui étaient incapable de gérer leurs datas. Parce qu'ils génèrent plusieurs millions de datas par jours, ce qui rend impossible le tagging.

Tu fais du conseil en IA/data ?
Mais effectivement, et même les start-up les plus à la pointes sont au moins en partie en retard sur les derniers résultats de la recherche par exemple
Mais c'est aussi la beautée de la chose je trouve, à partir d'un moment si tu veux construire quelque chose, ça sera peut être pas à la pointé des dernière découverte mais au moins tu auras quelque chose de concret

GP

GR_PAR_IA

il y a 8 mois

Je ne sais pas si tu connais Pasqal, mais quand tu vas sur leurs sites : https://www.noelshack.com/2024-37-6-1726323654-img-3263.png

Et là par contre ça fait « flipper » cette avancée de techno.

Je connaissais pas, c'est vrai que j'ai tendance à oublier l'évolution de l'info quantique https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png
Qui pour le coup va vraiment bénéficier à plein de secteurs de la recherche quand ça sera au point (en plus de poser des problèmes de sécurité même si le chiffrement symétrique devrait rester safe)

JU

Juliecornes

il y a 8 mois

Tu fais du conseil en IA/data ?
Mais effectivement, et même les start-up les plus à la pointes sont au moins en partie en retard sur les derniers résultats de la recherche par exemple
Mais c'est aussi la beautée de la chose je trouve, à partir d'un moment si tu veux construire quelque chose, ça sera peut être pas à la pointé des dernière découverte mais au moins tu auras quelque chose de concret

Alors moi directement non, j'y connais pas grand chose en IA/Data.

Par contre je suis designer et consultant en innovation / techno.

Globalement, j'essaye de comprendre la problématique de mes clients, dans les moindre détails, puis après je fais voir les experts data/IA/IoT/autre… pour leurs transmettre le problème et qu'ils me disent ce qu'ils en pensent/ce qui est techniquement faisable ou non.

Puis par la suite, je réunis tout le monde dans une même pièce (clients et experts en interne de chez nous dans différents domaines), et j'anime le débat.

Mon but c'est de comprendre comment répondre au besoin du client en détournant des technologies déjà existantes (ou qui vont exister) pour répondre spécifiquement à LEURS besoins.

Ex: j'ai eu un client A qui avait X problème. Je me suis rendu compte que ça ressemblait beaucoup au problème du client B, même si dans la forme ça semble éloigner (déjà parce que ces 2 clients sont dans des domaines très éloignés). Du coup je demande aux experts IA, qui ont fait la solution pour le client B, si ça serait possible de repartir sur la même base, mais de détourner l'objectif initiale pour que ça se calque sur le problème du nouveau client et que ça s'intègre à son ecosystem bien spécifique.

Bref, je suis là pour comprendre le problème, essayer de trouver des solutions, mais je ne me charge pas du tout de l'aspect technique, et ce sont aux experts de me dire si j'ai complètement fumé, ou si c'est une bonne idée

JU

Juliecornes

il y a 8 mois

Je connaissais pas, c'est vrai que j'ai tendance à oublier l'évolution de l'info quantique https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png
Qui pour le coup va vraiment bénéficier à plein de secteurs de la recherche quand ça sera au point (en plus de poser des problèmes de sécurité même si le chiffrement symétrique devrait rester safe)

Entièrement d'accord avec toi !

DV

Dark-vg2

il y a 8 mois

Je connaissais pas, c'est vrai que j'ai tendance à oublier l'évolution de l'info quantique https://image.noelshack.com/fichiers/2022/37/1/1663014384-ahi-pince-mais.png
Qui pour le coup va vraiment bénéficier à plein de secteurs de la recherche quand ça sera au point (en plus de poser des problèmes de sécurité même si le chiffrement symétrique devrait rester safe)

T'as même des PKE/KEM post quantique
Les standards sont sortis y'a un mois

P3

Prob3corps2

il y a 7 mois

on s'en fout, on s'est déjà fait une idée de se donner rdv au France Travail en 2K30