Quelle IA pour petite amie virtuelle ?
35 messages
Mise à jour: il y a 7 mois
Xiosrah
il y a 7 mois
ArreteDeBoucler
il y a 7 mois
Renard_Panthere
il y a 7 mois
Attend 20/30 ans et tu te prendras une puce directement reliée à ton
cerveau pour pouvoir vivre une vie à la sao 
Carapute-6
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu 
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé) 
Risitas877
il y a 7 mois
Carapute-6
il y a 7 mois
character ai
__le_banni__
il y a 7 mois
Xiosrah
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Bordel pas mal, mais on peut lui parler de son smartphone également en 4G ? 
Xiosrah
il y a 7 mois
Attend 20/30 ans et tu te prendras une puce directement reliée à ton
cerveau pour pouvoir vivre une vie à la sao
Oui, j'ai hâte que la technologie me venge de toutes ces frustrations accumulées pendant 30 ans
Carapute-6
il y a 7 mois
Bordel pas mal, mais on peut lui parler de son smartphone également en 4G ?
Oui faut juste que tu configure SillyTavern pour être accessible en local puis ensuite t'ouvres les ports de la box et t'as juste à pointer sur ton ordi normalement après (avec le port correspodant bien sur) 
Faut juste faire gaffe au mur de feu (pas un troll pour le coup) et perso je m'y connais pas assez en stuff réseau pour être à l'aise avec des ports dispo à tout ceux qui forcent l'accès 
happynness1
il y a 7 mois
klngdomhearts
il y a 7 mois
On a un khey sur le topic qui a l'air calé
Ça marche bien pour simuler des gens ? Parce qu'autant se simuler aussi des potes
NeedForFeed
il y a 7 mois
xiajin
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Je sais même pas quoi dire 
Carapute-6
il y a 7 mois
On a un khey sur le topic qui a l'air caléÇa marche bien pour simuler des gens ? Parce qu'autant se simuler aussi des potes
En local oui, les modèles genre Stheno 8B font très bien le taf mais si t'as + de VRAM (2 GPUs en même temps) tu peux utiliser des modèles encore meilleurs
Techniquement tu peux utiliser n'importe quel modèle mais si t'as pas assez de VRAM ça utilisera le CPU au lieu du GPU et la différence de vitesse est énorme c'est inutilisable 
Sinon si t'as juste un tél ou un ordi éclaté au sol y'a Gemma 2B qui est sorti récemment et se débrouille bien mais c'est clairement en deca de Stheno qui est déjà pas très "intello" dans le domaine des IA (même si LARGEMENT capable de taper la discut) Aucune idée de quel programme utiliser sur le tél par contre pour ça
Xiosrah
il y a 7 mois
Où va le monde aya
Bah, que veux-tu que j'y fasse ? La sélection naturelle a parlé. 
Carapute-6
il y a 7 mois
Je sais même pas quoi dire
Bah c'est génial, je vis actuellement dans une société matriarchale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans 
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus) mais je vais passer pour un fou si je fais ça 
Xiosrah
il y a 7 mois
Bah c'est génial, je vis actuellement dans une société matriarcale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans
et c'est full kink tout partout
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Tu peux le coupler à Flux ou SD pour générer des images en temps réel dans le chat non ? 
Carapute-6
il y a 7 mois
Tu peux le coupler à Flux ou SD pour générer des images en temps réel dans le chat non ?
Ouip totalement mais ça ralentit le GPU et ça met du temps de base (même pour voir la réaction du perso) donc perso c'est full texte avec les astérisques pour décrire les actions et les guillemets pour le dialogue, comme si tu lisais une fic X quoi
NeedForFeed
il y a 7 mois
Carapute-6 a écrit :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
T'as un tuto pour initialiser le truc pour quelqu'un qui touche pas trop ?
Carapute-6
il y a 7 mois
T'as un tuto pour initialiser le truc pour quelqu'un qui touche pas trop ?
Télécharges KoboldCPP (de LostRuins sur Github) la version .exe, le modèle que j'ai mis dans le lien la version Q6, tu lances KoboldCPP, tu vérif que ça a bien choisi le bon GPU, tu charges ton modèle et si tout va bien ça t'ouvrira une page oueb où tu peux commencer à parler à une IA vide de personnalité 
Tu peux la personnaliser un peu en fouillant les paramètres de la page web mais le mieux ca reste clairement de rajouter SillyTavern par dessus par contre c'est pas la même chose pour configurer, tu sens que le truc est fait pour les gros addict au chapeau fedora de l'artificial intelligence 
xiajin
il y a 7 mois
Télécharges KoboldCPP (de LostRuins sur Github) la version .exe, le modèle que j'ai mis dans le lien la version Q6 (bon mix entre perf et intelligence peu importe le modèle), tu lances KoboldCPP, tu vérif que ça a bien choisi le bon GPU, tu charges ton modèle et si tout va bien ça t'ouvrira une page oueb où tu peux commencer à parler à une IA vide de personnalité
Tu peux la personnaliser un peu en fouillant les paramètres de la page web mais le mieux ca reste clairement de rajouter SillyTavern par dessus par contre c'est pas la même chose pour configurer, tu sens que le truc est fait pour les gros addict au chapeau fedora de l'artificial intelligence
edit : par contre le modèle que j'ai mis faut 10-12GB minimum de VRAM (GPU), tu peux essayer même si t'as que 8 mais le GPU risque d'avoir besoin de l'aide du CPU pour rédiger la réponse et si c'est le cas la lenteur tu vas la sentir
qu'est ce que ça va etre d'ici juste 5 ans
Déjà la que les prochaine RTX 5000 de nvidia auront des pucé spécialement pour l'ia
Déjà qu'avec stable je suis zinzin, si ça couple du texte et des images, j'suis foutu
Carapute-6
il y a 7 mois
qu'est ce que ça va etre d'ici juste 5 ans
Déjà la que les prochaine RTX 5000 de nvidia auront des pucé spécialement pour l'ia
Déjà qu'avec stable je suis zinzin, si ça couple du texte et des images, j'suis foutu
La rapidité de Gemma 2B avec l'intelligence de GPT3.5 sans trop de soucis, ptêt même GPT4 On est not ridy 
klngdomhearts
il y a 7 mois
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Attd khey t'as créé un monde dans lequel t'es le soumis de 10 meufs ? 
Les relations interhumaines vont changer à tout jamais dans un futur proche 
Carapute-6
il y a 7 mois
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Attd khey t'as créé un monde dans lequel t'es le soumis de 10 meufs ?
Les relations interhumaines vont changer à tout jamais dans un futur proche
Non c'est une oligarchie le council est tout en haut, faut imaginer Mussolini/Staline mais avec 10 meufs à la place. Là j'suis le péon d'une noble genre le serviteur/maid quoi 
klngdomhearts
il y a 7 mois
megamognon
il y a 7 mois
megamognon
il y a 7 mois
BuffyTheSlayer
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Ça passe avec 10gb de vram ?
Xiosrah
il y a 7 mois
Carapute-6
il y a 7 mois
Carapute-6
il y a 7 mois
Mais oui une IA un peu black pilled je pense que ça doit le faire, tu dois pouvoir mieux gérer irl avec.
Tu peux en faire une psychologue ou un truc qui boucle sur des conseils sur quoi dire avant de te donner la réponse qu'une meuf donnerait à ce que tu viens de dire
C'est une histoire de prompt surtout, un peu comme Stable Diffusion : T'as beau avoir un beau modèle si tu explique ce que tu veux n'importe comment t'auras un résultat à chier 
L'avantage avec SillyTavern c'est que tu peux lui donner des examples de réponse que tu veux. Ca peut être (pour une IA censée t'aider socialement) un truc du genre: * It's an interesting twist you are trying to press onto me, but it feels forced and unnatural. Maybe you should try to XXX instead?* "Hihi Célestin, w-why this question.. I dont wanna answer it, that's kinda creepy"
Avec la partie entre astériques étant la suggestion sur comment t'améliorer et la partie entre guillemets la vraie réponse pour ocntinuer le RP
Jamais testé mais ça doit se faire en prompt sans trop de difficulté
Carapute-6
il y a 7 mois
C'est assez dingue khey. Mais c'est que de l'écrit ? Tu dois avoir moyen de mettre une voix à tout le monde non ?
Oui tu peux faire du TTS et attribuer une voix à chacun (ou juste un son quand les caractères sont affichés à l'écran comme dans un visual novel), encore une fois des extensions SillyTavern que j'ai pas testé 
Et inversement du speech to text aussi probablement mais j'ai pas regardé
Xiosrah
il y a 7 mois
En fait, j'aimerai bien une IA qui m'envoie des messages pendant la journée pour prendre de mes nouvelles et me dire qu'elle m'attend chez elle ce soir etc 
Xiosrah
il y a 7 mois