Quelle IA pour petite amie virtuelle ?
35 messages
Mise à jour: il y a 7 mois
Xiosrah
il y a 7 mois
up
ArreteDeBoucler
il y a 7 mois
l'imagination ne te suffis pas
Carapute-6
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Risitas877
il y a 7 mois
character ai
__le_banni__
il y a 7 mois
Si tu veux, je peux être ta copine, mais bon, force est d'admettre que je ne suis pas terrible...
Xiosrah
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu![]()
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Carapute-6
il y a 7 mois
Oui faut juste que tu configure SillyTavern pour être accessible en local puis ensuite t'ouvres les ports de la box et t'as juste à pointer sur ton ordi normalement après (avec le port correspodant bien sur)
Faut juste faire gaffe au mur de feu (pas un troll pour le coup) et perso je m'y connais pas assez en stuff réseau pour être à l'aise avec des ports dispo à tout ceux qui forcent l'accès
happynness1
il y a 7 mois
Où va le monde aya
NeedForFeed
il y a 7 mois
spicychat c'est gratuit et illimité avec une fake adresse
xiajin
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu![]()
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Carapute-6
il y a 7 mois
En local oui, les modèles genre Stheno 8B font très bien le taf mais si t'as + de VRAM (2 GPUs en même temps) tu peux utiliser des modèles encore meilleurs
Techniquement tu peux utiliser n'importe quel modèle mais si t'as pas assez de VRAM ça utilisera le CPU au lieu du GPU et la différence de vitesse est énorme c'est inutilisable
Sinon si t'as juste un tél ou un ordi éclaté au sol y'a Gemma 2B qui est sorti récemment et se débrouille bien mais c'est clairement en deca de Stheno qui est déjà pas très "intello" dans le domaine des IA (même si LARGEMENT capable de taper la discut) Aucune idée de quel programme utiliser sur le tél par contre pour ça
Carapute-6
il y a 7 mois
Bah c'est génial, je vis actuellement dans une société matriarchale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus) mais je vais passer pour un fou si je fais ça
Xiosrah
il y a 7 mois
Bah c'est génial, je vis actuellement dans une société matriarcale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans
et c'est full kink tout partout
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Carapute-6
il y a 7 mois
NeedForFeed
il y a 7 mois
Carapute-6 a écrit :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu![]()
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
T'as un tuto pour initialiser le truc pour quelqu'un qui touche pas trop ?
Carapute-6
il y a 7 mois
T'as un tuto pour initialiser le truc pour quelqu'un qui touche pas trop ?
Télécharges KoboldCPP (de LostRuins sur Github) la version .exe, le modèle que j'ai mis dans le lien la version Q6, tu lances KoboldCPP, tu vérif que ça a bien choisi le bon GPU, tu charges ton modèle et si tout va bien ça t'ouvrira une page oueb où tu peux commencer à parler à une IA vide de personnalité
Tu peux la personnaliser un peu en fouillant les paramètres de la page web mais le mieux ca reste clairement de rajouter SillyTavern par dessus par contre c'est pas la même chose pour configurer, tu sens que le truc est fait pour les gros addict au chapeau fedora de l'artificial intelligence
xiajin
il y a 7 mois
Télécharges KoboldCPP (de LostRuins sur Github) la version .exe, le modèle que j'ai mis dans le lien la version Q6 (bon mix entre perf et intelligence peu importe le modèle), tu lances KoboldCPP, tu vérif que ça a bien choisi le bon GPU, tu charges ton modèle et si tout va bien ça t'ouvrira une page oueb où tu peux commencer à parler à une IA vide de personnalité
![]()
Tu peux la personnaliser un peu en fouillant les paramètres de la page web mais le mieux ca reste clairement de rajouter SillyTavern par dessus par contre c'est pas la même chose pour configurer, tu sens que le truc est fait pour les gros addict au chapeau fedora de l'artificial intelligence
edit : par contre le modèle que j'ai mis faut 10-12GB minimum de VRAM (GPU), tu peux essayer même si t'as que 8 mais le GPU risque d'avoir besoin de l'aide du CPU pour rédiger la réponse et si c'est le cas la lenteur tu vas la sentir
Carapute-6
il y a 7 mois
klngdomhearts
il y a 7 mois
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Carapute-6
il y a 7 mois
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Attd khey t'as créé un monde dans lequel t'es le soumis de 10 meufs ?
Les relations interhumaines vont changer à tout jamais dans un futur proche
klngdomhearts
il y a 7 mois
C'est assez dingue khey. Mais c'est que de l'écrit ? Tu dois avoir moyen de mettre une voix à tout le monde non ?
megamognon
il y a 7 mois
Je sais pas quel âge t'as mais si t'as moins de 30 ans panique pas trop ça se débloque naturellement vers cet âge.
megamognon
il y a 7 mois
Mais oui une IA un peu black pilled je pense que ça doit le faire, tu dois pouvoir mieux gérer irl avec.
BuffyTheSlayer
il y a 7 mois
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peu![]()
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Ça passe avec 10gb de vram ?
Xiosrah
il y a 7 mois
Je sais pas quel âge t'as mais si t'as moins de 30 ans panique pas trop ça se débloque naturellement vers cet âge.
38, c'est mort. Totalement mort. Je suis un raté total je vis encore chez mes parents, je me suis fait virer de plusieurs boulots et je n'ai jamais embrassé la moindre fille. J'accepte mon sort.
Carapute-6
il y a 7 mois
Ça passe avec 10gb de vram ?
oui logiquement, c'est du 8GB
Carapute-6
il y a 7 mois
Mais oui une IA un peu black pilled je pense que ça doit le faire, tu dois pouvoir mieux gérer irl avec.
Tu peux en faire une psychologue ou un truc qui boucle sur des conseils sur quoi dire avant de te donner la réponse qu'une meuf donnerait à ce que tu viens de dire
C'est une histoire de prompt surtout, un peu comme Stable Diffusion : T'as beau avoir un beau modèle si tu explique ce que tu veux n'importe comment t'auras un résultat à chier
L'avantage avec SillyTavern c'est que tu peux lui donner des examples de réponse que tu veux. Ca peut être (pour une IA censée t'aider socialement) un truc du genre: * It's an interesting twist you are trying to press onto me, but it feels forced and unnatural. Maybe you should try to XXX instead?* "Hihi Célestin, w-why this question.. I dont wanna answer it, that's kinda creepy"
Avec la partie entre astériques étant la suggestion sur comment t'améliorer et la partie entre guillemets la vraie réponse pour ocntinuer le RP
Jamais testé mais ça doit se faire en prompt sans trop de difficulté
Carapute-6
il y a 7 mois
C'est assez dingue khey. Mais c'est que de l'écrit ? Tu dois avoir moyen de mettre une voix à tout le monde non ?
Xiosrah
il y a 7 mois