darkeox

u/darkeox@kbin.social
3 posts · 30 comments

Recent posts

Recent comments

For relative comparison sure but isn't it starting to become irrelevant these days? No Vulkan nor Raytracing nor Compute.

Tu parles plutôt du titre choisi par le posteur là. Le titre de l'article est :

"Utiliser ChatGPT peut nous rendre plus performants, mais aussi plus idiots". Possibilité donc moins péremptoire quoiqu'un peu aguicheur.

Et ensuite dans l'article:

  • Une frontière mouvante entre ce que l’IA sait faire ou ne pas faire
  • Des idées plus approfondies mais moins variées
  • Les humains peuvent se laisser influencer par le robot, parfois pour le pire

Je ne m'épanche pas sur le vocabulaire de l'article qui est ahem... bref. Mais grosso-modo à la lecture, ça résume assez fidèlement et honnêtement l'étude et le titre n'est pas choquant pour moi.

Ma réaction de départ aurait été : "c'est pas grave, ça filme juste quand on appuie dessus et en plus plutôt le pif de la personne qui sonne que toute la co-pro", mais en fait il y a un détecteur mouvement dans cette connerie !

Et il semblerait que la caméra puisse s'activer sur simple mouvement. A discuter absolument du coup parce que faire confiance à un tiers pour les réglages, sans compter le fait que c'est truc on tendance à tout réinitialiser de temps à autre parce qu'il y a une MAJ non compatible etc.

https://www.wired.co.uk/article/ring-doorbell-camera-amazon-privacy

Well the thing with those "enabled EAC on Linux to see where it gets us" is it's non-binding and non-commital. And it's made explicitely that way so that support cannot be demanded from Linux users unlike Windows users who are explicitely mentioned in the systems supported by the game.

We legally don't have any ground to be supported the same as Windows users.

Don't be sorry, you're being so helpful, thank you a lot.

I finally replicated your config:

localhost/koboldcpp:v1.43 --port 80 --threads 4 --contextsize 8192 --useclblas 0 0 --smartcontext --ropeconfig 1.0 32000 --stream "/app/models/mythomax-l2-kimiko-v2-13b.Q5_K_M.gguf"

And had satisfying results! The performance of LLaMA2 really is nice to have here as well.

Thanks a lot for your input. It's a lot to stomach but very descriptive which is what I need.

I run this Koboldcpp in a container.

What I ended up doing and which was semi-working is:

  • --model "/app/models/mythomax-l2-13b.ggmlv3.q5_0.bin" --port 80 --stream --unbantokens --threads 8 --contextsize 4096 --useclblas 0 0

In the Kobboldcpp UI, I set max response token to 512 and switched to an Instruction/response model and kept prompting with "continue the writing", with the MythoMax model.

But I'll be re-checking your way of doing it because the SuperCOT model seemed less streamlined and more qualitative in its story writing.

The MythoMax looks nice but I'm using it in story mode and it seems to have problems progressing once it's reached the max token, it appears stuck:

Generating (1 / 512 tokens)
(EOS token triggered!)
Time Taken - Processing:4.8s (9ms/T), Generation:0.0s (1ms/T), Total:4.8s (0.2T/s)
Output:

And then stops when I try to prompt it to continue the story.