einops : A new flavour of deep learning operations. ( https://github.com/arogozhnikov/einops )
exllamav2 : Inference library for running local LLMs on consumer hardware. ( https://github.com/turboderp/exllamav2 )
exllamav3 : Inference library for running local LLMs on consumer hardware. ( https://github.com/turboderp/exllamav3 )
flash-attn : Flash Attention: Fast and Memory-Efficient Exact Attention (Python component). ( https://github.com/Dao-AILab/flash-attention )
Pour rajouter une e-build dans l'arbre de portage :
L'ebuild est alors rajouté dans l'arbre de portage.
Vous pouvez aussi utiliser layman : emerge layman puis layman -a tatsh-overlay
Pour Paludis utilisez ce rsync : rsync://gentoo.zugaina.org/tatsh-overlay-portage
En cas de problèmes : ycarus(-at-)zugaina.org