Je suis incollable sur le Machine Learning (j'ai seulement le bac pourtant)

OP
SD

SimpleDesprit

il y a 2 mois

Allez, posez-moi des questions. Bien évidemment, des questions pour lesquelles les réponses ne necessitent pas un pavé sinon le topic ne sera pas intéressant

OP
SD

SimpleDesprit

il y a 2 mois

Allez l'élite

X-

Xiaomied-_

il y a 2 mois

Comment tu peux faire du machine learning sans être capable de trouver l'inverse d'une matrice ?

OP
SD

SimpleDesprit

il y a 2 mois


Comment tu peux faire du machine learning sans être capable de trouver l'inverse d'une matrice ?

Parce que l'acquisition de connaissances n'est pas limitée sur les bancs de l'école

GJ

golem_jovial5

il y a 2 mois

ok je suis bac +5, explique l'algorithme de descente de gradient stochastique et argumente sur son efficacité dans les réseaux neuronaux profonds.

RM

riche-mais-11cm

il y a 2 mois

Ok, tres bien
Pourquoi certains outils mathematiques comme la distance de Frechet sont simplement incontournables pendant l'entrainement des models concernes mais ne peuvent pas etre utilise en production, en temps reel?

OP
SD

SimpleDesprit

il y a 2 mois


ok je suis bac +5, explique l'algorithme de descente de gradient stochastique et argumente sur son efficacité dans les réseaux neuronaux profonds.

Descente de gradient: algo classique d'optimisation des algo de machine learning. Pour faire court, il peut se traduire par les équations suivantes:
w = argmin(L(y_obs, y_pred))
w(i) = w(i-1) + a* Grad(L) (par rapport à w)
C'est un type d'algo déterministe

OP
SD

SimpleDesprit

il y a 2 mois


Ok, tres bien
Pourquoi certains outils mathematiques comme la distance de Frechet sont simplement incontournables pendant l'entrainement des models concernes mais ne peuvent pas etre utilise en production, en temps reel?

Parce qu'ils mesurent des relations complexes entre les objets ou les trajectoires, ce qui aide à mieux ajuster le modèle. Mais, en prod, leur calcul peut être coûteux en termes de temps et de ressources.

OP
SD

SimpleDesprit

il y a 2 mois

Allez l'élite. J'essaie de faire des réponses courtes pour repondre à tout le monde

RM

riche-mais-11cm

il y a 2 mois

Parce qu'ils mesurent des relations complexes entre les objets ou les trajectoires, ce qui aide à mieux ajuster le modèle. Mais, en prod, leur calcul peut être coûteux en termes de temps et de ressources.

pourquoi?

B9

Bienveillance91

il y a 2 mois

Peux-tu expliquer le principe de la backpropagation dans un réseau de neuronnes ?

OP
SD

SimpleDesprit

il y a 2 mois

pourquoi?

Bah t'as juste à regarder son expression mathématique et le nombre d'ops à faire

JA

jamaisdeban

il y a 2 mois

jsuis dev jcomprend rien et ca me fait une belle jambe

PM

PandaMTL

il y a 2 mois

Est-ce que tu travailles sur un projet en particulier ? https://image.noelshack.com/fichiers/2022/02/4/1642078520-chateltonjohn.png

OP
SD

SimpleDesprit

il y a 2 mois


Peux-tu expliquer le principe de la backpropagation dans un réseau de neuronnes ?

Je l'ai expliqué en partie dans ma réponse précédente. En gros, on a:
1) Feedforward: les données X traverse le modèle qui produit la sortie y. Ensuite, on calcule la fonction de cout qui servir à calculer des gradients par rapport aux paramètres du modèles. Et par chemin inverse (backpropagation), on ajuste les valeurs de ces paramètres

RM

riche-mais-11cm

il y a 2 mois

Descente de gradient: algo classique d'optimisation des algo de machine learning. Pour faire court, il peut se traduire par les équations suivantes:
w = argmin(L(y_obs, y_pred))
w(i) = w(i-1) + a* Grad(L) (par rapport à w)
C'est un type d'algo déterministe

Le but de la descente de gradient est de trouver les zeros d'une fonction. Qu'est ce que ce zero en machine learning?

OP
SD

SimpleDesprit

il y a 2 mois


Peux-tu expliquer le principe de la backpropagation dans un réseau de neuronnes ?

Je l'ai expliqué en partie dans ma réponse précédente. En gros, on a:
1) Feedforward: les données X traverse le modèle qui produit la sortie y. Ensuite, on calcule la fonction de cout qui servir à calculer des gradients par rapport aux paramètres du modèles. Et par chemin inverse (backpropagation), on ajuste les valeurs de ces paramètres

OP
SD

SimpleDesprit

il y a 2 mois


jsuis dev jcomprend rien et ca me fait une belle jambe

Pas grave

OP
SD

SimpleDesprit

il y a 2 mois


Est-ce que tu travailles sur un projet en particulier ? https://image.noelshack.com/fichiers/2022/02/4/1642078520-chateltonjohn.png

Je travailles sur des modèles d'attention mais sur des projets classiques (pour me familiariser avec).

B9

Bienveillance91

il y a 2 mois

Connaîs-tu la librairie JAX et as-tu eu l'occastion de l'utiliser ?

OP
SD

SimpleDesprit

il y a 2 mois

Le but de la descente de gradient est de trouver les zeros d'une fonction. Qu'est ce que ce zero en machine learning?

Bah c'est ta fonction de coût. C'est elle que tu veux minimiser

B3

Blarda31

il y a 2 mois

Crois tu en la singularité ?
PM

PandaMTL

il y a 2 mois

Est-ce que tu bosses en local ou tu utilises des solutions cloud ? https://image.noelshack.com/fichiers/2022/02/4/1642078520-chateltonjohn.png
RM

riche-mais-11cm

il y a 2 mois

Bah t'as juste à regarder son expression mathématique et le nombre d'ops à faire

Non, c'est pas le nombre qui compte. Toutes les operations sont mathematiquement nativement supportees par cuda a part la racine carre d'une matrice qui est non triviale

OP
SD

SimpleDesprit

il y a 2 mois


Connaîs-tu la librairie JAX et as-tu eu l'occastion de l'utiliser ?

Je la connais de nom mais pas encore. Je suis sur Tensorflow et PyTorch

DI

diyonizos

il y a 2 mois

comment tu as appris ? quelles ressources ? ça m'intéresse

OP
SD

SimpleDesprit

il y a 2 mois


Crois tu en la singularité ?

Oui pourquoi?

OP
SD

SimpleDesprit

il y a 2 mois


Est-ce que tu bosses en local ou tu utilises des solutions cloud ? https://image.noelshack.com/fichiers/2022/02/4/1642078520-chateltonjohn.png

Les deux. En cloud, je bosse notamment avec AWS (plus complet)

X-

Xiaomied-_

il y a 2 mois

Parce que l'acquisition de connaissances n'est pas limitée sur les bancs de l'école

Tu remarqueras que je n'ai pas parlé d'école

D'où vient cette motivation à travailler sur le sujet ?

GM

Genial-macdo

il y a 2 mois

dans quels cas de figure l'utilisation d'une weighted loss function peut être bénéfique comparé à une classique binary cross-entropy

OP
SD

SimpleDesprit

il y a 2 mois


comment tu as appris ? quelles ressources ? ça m'intéresse

Je n'ai pas eu recours à un programme en particulier. Première étape: identifier un sujet particulier puis chercher les ressources pour le comprendre à différents niveau (youtube, stackoverflow, ...)

B9

Bienveillance91

il y a 2 mois

Bah c'est ta fonction de coût. C'est elle que tu veux minimiser

À mon avis il a voulu te piéger et attendait que tu répondes que le 0 qu'on cherche à atteindre serait plutôt le gradient de ta fonction de coût, correspondant au moment où ta fonction de coût ne cesse de diminuer à un minimum local. Perso j'ai plus travaillé à minimiser une fonction de vraisemblance (modèles stats plutôt que de deeplearning, même si pour moi c'est lié) peut-être que je peux me tromper

B3

Blarda31

il y a 2 mois

Oui pourquoi?

Pour savoir si l'IA sera capable de faire un sandwich meilleur que le big mac et si oui d'après toi ça sera quoi les ingrédients

OP
SD

SimpleDesprit

il y a 2 mois

Non, c'est pas le nombre qui compte. Toutes les operations sont mathematiquement nativement supportees par cuda a part la racine carre d'une matrice qui est non triviale

Ok, ça je ne savais pas. Merci

D3

Douglas3855

il y a 2 mois

Osef il suffit que tu réponde en demandant à chatgpt.

OP
SD

SimpleDesprit

il y a 2 mois


dans quels cas de figure l'utilisation d'une weighted loss function peut être bénéfique comparé à une classique binary cross-entropy

On fait ça généralement quand les données ne sont pas équilibrées (dérives de distribution)

OP
SD

SimpleDesprit

il y a 2 mois


Osef il suffit que tu réponde en demandant à chatgpt.

Je préfère ne pas le faire pour évaluer mon niveau

PM

PandaMTL

il y a 2 mois

Est-ce que tu aimerais bosser dans le domaine ? https://image.noelshack.com/fichiers/2022/02/4/1642078520-chateltonjohn.png

M1

Mousline10

il y a 2 mois

ouais bon l'op utilise chatgpt pour répondre en gros

DI

diyonizos

il y a 2 mois

Je n'ai pas eu recours à un programme en particulier. Première étape: identifier un sujet particulier puis chercher les ressources pour le comprendre à différents niveau (youtube, stackoverflow, ...)

faut-il avoir un une base théorique, une base mathématique forte pour débuter ?

HI

HookInPussy007

il y a 2 mois

J'ai mon tambour qui fait du bruit en essorage, malgré un détartrage. Tu me conseilles quoi ?

OP
SD

SimpleDesprit

il y a 2 mois

À mon avis il a voulu te piéger et attendait que tu répondes que le 0 qu'on cherche à atteindre serait plutôt le gradient de ta fonction de coût, correspondant au moment où ta fonction de coût ne cesse de diminuer à un minimum local. Perso j'ai plus travaillé à minimiser une fonction de vraisemblance (modèles stats plutôt que de deeplearning, même si pour moi c'est lié) peut-être que je peux me tromper

J'avais compris ce qu'il voulait pointer du doigt lol

OP
SD

SimpleDesprit

il y a 2 mois

Pour savoir si l'IA sera capable de faire un sandwich meilleur que le big mac et si oui d'après toi ça sera quoi les ingrédients

Je n'ai pas une réponse à ça. Car je ne vois pas bien le lien

OP
SD

SimpleDesprit

il y a 2 mois


Est-ce que tu aimerais bosser dans le domaine ? https://image.noelshack.com/fichiers/2022/02/4/1642078520-chateltonjohn.png

Ca me tente bien

B9

Bienveillance91

il y a 2 mois

D'ailleurs vraie question l'OP.

J'aimerais jouer un peu sur Pytorch pour me familiariser avec l'utilisation de mon GPU pour des calculs en parrallèles (jusqu'à présent je ne travaille que sur le CPU).

Mon problème c'est que mon GPU est une Radeon RX5600 XT, donc pas pris en charge par CUDA et trop vieux pour être pris en charge par rocM (l'équivalent de CUDA pour AM).

Est-ce que tu ne connaîtrais pas un moyen de quand même utiliser mon GPU avec PyTorch ? Je suis entrain d'essayer avec Zluda, mais je galère un peu à comprendre.

NO

nonemslochanklo

il y a 2 mois

qu'est ce que tu pense du low code style n8n ?
OP
SD

SimpleDesprit

il y a 2 mois


ouais bon l'op utilise chatgpt pour répondre en gros

Je l'ai dit plus haut. Je pourrais le faire mais je ne le fais pas pour evaluer mon vrai niveau

CS

CaleconSperme

il y a 2 mois


ouais bon l'op utilise chatgpt pour répondre en gros

Personne connait la distance de frechet a part les giga nerd qui ont fait de la recherche en genAI en image/video et ceux qui ont bosse sur de l'explainability a la limite (je suis celui qui en a parle, je viens juste de me faire ban). Apres je pense que l'op s'y est mis serieusement et sait malgre tout pas mal de trucs

OP
SD

SimpleDesprit

il y a 2 mois

faut-il avoir un une base théorique, une base mathématique forte pour débuter ?

Non, je crois que tu n'as besoin d'une grosse connaissance en maths. Faut juste être capable de faire des dérivées (théorème de la dérivée composée), produit de matrice, d'hadammard, en gros un peu d'algèbre.

OP
SD

SimpleDesprit

il y a 2 mois


J'ai mon tambour qui fait du bruit en essorage, malgré un détartrage. Tu me conseilles quoi ?

Hors de ma portée