Je vous explique en quoi l'IA (LLM) est une bulle
21 messages
Mise à jour: il y a 3 mois
4654654ddffd
il y a 3 mois
StepMother
il y a 3 mois
C'est l'architecture qui nous baise, il faut utiliser autre chose que Transformers.
Pour la qualité du bot teste Deepseek V3, c'est un gros modele (+600B) mais c'est un MoE de plein de petit modèle, les MoE peuvent être le futur.
J'avais bien aimé Mixtral mais bon, le train c'etait la galère, 0 doc
Jonquilles
il y a 3 mois
Les résultats sont complètement bluffant déjà actuellement, et une ia pourrait replacer la majorité des jobs non manuels
C'est juste une question sociale
Troulku69
il y a 3 mois
4654654ddffd
il y a 3 mois
C'est l'architecture qui nous baise, il faut utiliser autre chose que Transformers.
Pour la qualité du bot teste Deepseek V3, c'est un gros modele (+600B) mais c'est un MoE de plein de petit modèle, les MoE peuvent être le futur.J'avais bien aimé Mixtral mais bon, le train c'etait la galère, 0 doc
StepMother
il y a 3 mois
Non, faut passer par leur API ou le host toi même (en cloud hein parce que 600B+ ahi)
J'ai pas encore pu le host, mais j'ai pu le tester et franchement il est bien, même pour le RP et les reference à la pop culture et tout.
J'attend de voir si il pourrait tourner sur la RAM seulement un jour mais j'en doute, et si ça se fait faudra carrément acheter un SERVEUR
Iorient56_
il y a 3 mois
comme les smartphones
4654654ddffd
il y a 3 mois
Non, faut passer par leur API ou le host toi même (en cloud hein parce que 600B+ ahi)
J'ai pas encore pu le host, mais j'ai pu le tester et franchement il est bien, même pour le RP et les reference à la pop culture et tout.J'attend de voir si il pourrait tourner sur la RAM seulement un jour mais j'en doute, et si ça se fait faudra carrément acheter un SERVEUR
![]()
je me disais bien ... je vais tester leur api dans ce cas j'en ai marre d'attendre
niveau censure, il s'en sort comment ? tu peux parler de tout avec lui ? hormis la censure vis-à-vis du régime chinois)
StepMother
il y a 3 mois
4654654ddffd a écrit :
je me disais bien ... je vais tester leur api dans ce cas j'en ai marre d'attendre
niveau censure, il s'en sort comment ? tu peux parler de tout avec lui ? hormis la censure vis-à-vis du régime chinois)
XGBoost
il y a 3 mois
Comme partout, les gens qui donnent de l'argent sont des enfants, et les gens qui remportent l'argent sont ceux qui savent le mieux se vendre, c'est-à-dire rarement des ingénieurs et scientifiques.
On finit avec des projets IA et LLM à deux balles partout. J'ai eu l'occasion de travailler sur l'amélioration d'un système de recommandation à deux balles chez Airbus qui avait coûté plusieurs centaines de milliers d'euros de mise en place. C'était un gouffre financier avec un modèle S-BERT à entraîner sur Amazon, qui apportait aucune plus-value.
À côté de ça, j'arrivais pas à avoir un GPU pour entraîner un MLP pour faire de la prédiction de température à l'intérieur du moteur et éviter de lourds calculs thermo.
C'est comme ça partout. Tous les profils issus des écoles de commerce et autres formations bullshit sont des vrais parasites dans toutes les strates du tertiaire.
Esperanza5
il y a 3 mois
Oui et non
C'est s'approchant du plafond de verre que tu le perces. Ça nous pousse à trouver une solution ou une nouvelle idée.
T'évoques 100 millions, mais c'est queudale vu les enjeux et les sommes que les investisseurs sont prêts à mettre.
En plus au niveau de la vidéo et de l'image, l'IA fait encore énormément de progrès.
4654654ddffd
il y a 3 mois
Comme partout, les gens qui donnent de l'argent sont des enfants, et les gens qui remportent l'argent sont ceux qui savent le mieux se vendre, c'est-à-dire rarement des ingénieurs et scientifiques.On finit avec des projets IA et LLM à deux balles partout. J'ai eu l'occasion de travailler sur l'amélioration d'un système de recommandation à deux balles chez Airbus qui avait coûté plusieurs centaines de milliers d'euros de mise en place. C'était un gouffre financier avec un modèle S-BERT à entraîner sur Amazon, qui apportait aucune plus-value.
À côté de ça, j'arrivais pas à avoir un GPU pour entraîner un MLP pour faire de la prédiction de température à l'intérieur du moteur et éviter de lourds calculs thermo.
C'est comme ça partout. Tous les profils issus des écoles de commerce et autres formations bullshit sont des vrais parasites dans toutes les strates du tertiaire.
Complètement. Cette déconnexion entre les fils et filles à papa issus d'écoles de commerce à qui on octroie le pouvoir décisionnel et la réalité technique du terrain est devenue un cancer pour absolument tout le monde...
partout ou je vais, les talents sont brisés par des choix marketing dictés par des objectifs superficiels, alimentant une culture du paraître qui privilégie les projets tape-à-l'œil plutôt que des solutions de bon sens.
Pour moi le fautif sont les équipes RH qui sont souvent ultra conciliants avec les profils commerciaux plutot que techniques, car ils cherchent toujours des solutions à court terme. Cette tendance va toujours dans un seul sens : les équipes techniques doivent s'adapter, jamais l'inverse.
4654654ddffd
il y a 3 mois
Oui et nonC'est s'approchant du plafond de verre que tu le perces. Ça nous pousse à trouver une solution ou une nouvelle idée.
T'évoques 100 millions, mais c'est queudale vu les enjeux et les sommes que les investisseurs sont prêts à mettre.
En plus au niveau de la vidéo et de l'image, l'IA fait encore énormément de progrès.
ca reste des modèles de diffusion apres les llm ont plus d'avance en termes de maturité technique que les modèles de diffusion pour le moment.
AssaneCF
il y a 3 mois
Bahar
il y a 3 mois
T'as des sources l'op ?
4654654ddffd
il y a 3 mois