• @biggrizzly
    BigGrizzly CC BY-NC-SA
    9
    @arno
    @simplicissimus
    @gastlag
    @marcimat
    @gillesm
    @colporteur
    @severo
    @aurelieng
    @alexcorp
    9

    Hugging Face piraté par une IA autonome et les IA américaines refusent de l’aider
    ▻https://www.it-connect.fr/hugging-face-cyberattaque-ia-autonome-modele-open-weight

    Plus de 17 000 actions malveillantes exécutées en un week-end, non par un pirate humain mais par une IA agissant seule. Le 16 juillet 2026, j’ai l’impression que nous avons franchi un cap. En effet, Hugging Face, la plateforme de référence de l’IA open source, a révélé avoir subi une intrusion pilotée de bout en bout par un système d’IA autonome. Voici ce qu’il faut savoir sur cet incident de sécurité.

    (...)

    On peut tirer une véritable leçon de cet incident de sécurité qui a impacté Hugging Face : disposer d’un modèle IA validé et capable d’analyser des journaux devient essentiel. Si on compte s’appuyer sur l’IA pour ce type d’analyse, il faut s’orienter vers un modèle open-weight auto-hébergé afin d’assurer la protection des données, en plus de bénéficier des capacités d’analyse.

    Le piège se referme. Les attaques vont devenir industrielles, et donc si tu veux survivre, tu vas devoir utiliser les outils de protection industriels que tu ne voulais pas utiliser. Les boites noires qui veulent ton bien vont devenir indispensables, et surtout, tu vas devoir soit apprendre à les utiliser, soit déléguer leur mise en place auprès de boites spécialisées qui vont pouvoir te vendre du flan chinois ou américain au prix de l’or.

    En l’occurrence, Hugging face, de ce que je comprends, a pu s’en sortir parce que les chinois ont décidé de donner leur modèle, dans le cadre de la concurrence géopolitique en cours.

    Si tu pousses la parano jusqu’au bout, tu te dis que les attaquants vont pouvoir accéder à la puissance de calcul nécessaire gratuitement pour encore un bon moment, histoire que les vendeurs de solutions à cette engeance puissent claironner que « tu vois bien qu’il n’y a pas le choix, c’est l’avenir ».

    Ils te créent le problème, puis ils te disent qu’ils ont une solution, puis tu découvres que ta nappe phréatique est vide et que tes réacteurs nucléaires ne peuvent plus éclairer ta maison.

    BigGrizzly CC BY-NC-SA
    Écrire un commentaire
  • Écrire un commentaire
  • Écrire un commentaire
  • @arno
    ARNO* ART LIBRE
    2
    @simplicissimus
    @sandburg
    2

    Y’a vraiment des gens qui prennent plaisir à travailler avec Python ?

    Mon expérience :
    – ah ben ça marchait, mais là j’ai rien fait ça marche plus…
    – c’est que tu as dû modifier quelque chose autre part
    – ah, je fais quoi alors ?
    – ben tu vérifies tes dépendances.
    – comment ?
    – read ze fucking manual
    – OK. j’ai 200 messages d’erreur de trucs « outdated »…
    – hé ben mets à jour, c’est quand même évident
    – OK, j’ai fait un pip upgrade de tout, maintenant j’ai plus rien qui marche. Avant j’avais encore quelques trucs qui marchaient, maintenant j’ai plus rien.
    - C’est quoi le message d’erreur ?
    – C’est « XXX IO Trucmuche »
    – Ah ben oui, tu as dû faire une mise à jour de RoboTrucBull, alors que c’est bien indiqué qu’il faut pas le faire.
    – Mais tu m’as dit…
    – Ben non, faut faire les mises à jour, mais pas quand il faut pas. RoboTrucBull c’est marqué, ça ne fonctionne que si tu as BiduleMachin entre les version 3.2.9 et 3.2.12. C’est marché, suffit de suivre.
    – Ahhh… Oui mais si BiduleMachin est en version inférieure à 3.3.9, j’ai WhatZeFouk qui refuse de s’installer.

    Une demi-journée plus tard, ça ne fonctionne toujours, parce qu’il n’y aucune raison que ça marche, mais la raison apparaît lumineuse, pov tâche : c’est parce que sur ce logiciel-là, il y a un venv. Rebelotte toutes les manips, mais en activant l’environnement virtuel. Et évidemment ça ne fonctionne pas mieux. Et que je te brew upgrade, que je te pip upgrade, que je te mets tout à la poubelle et que je te gill clone à nouveau.

    Et merde.

    (Alors que je veux juste dessiner des chatons avec Stable Diffusion.)

    ARNO* ART LIBRE
    • @severo
      severo PUBLIC DOMAIN

      Python et les outils pour gérer les dépendances c’est vraiment hétérogène. Pour node il y a npm, pour rust il y a cargo, etc. Mais pour Python, il y a : installation système, virtualenv, pyenv, poetry, conda, etc... Et c’est voulu (écosystème vivant...) c’est surtout hyper pénible

      severo PUBLIC DOMAIN
    • @olaf
      Olaf

      Pour moi, ton souci c’est pas spécialement la faute à python, java p.ex. mord aussi très bien avec le "jar dependency hell". Mais "l’avantage" avec python, d’expérience, c’est que tu es en gros obligé (et c’est pour ton bien) d’utiliser un venv, ne serait-ce que pour t’isoler des paquets système ; ça force une gestion "propre" des dépendances aux paquets externes, et pip trouve tout ; mais bon, après, selon les projets, tout le monde ne fournit pas un requirements.txt (ou .in) à jour ; et hop, « works for me » :-) Des fois, si ya, les test auto / CI aident a savoir « ce qui marche ».

      Olaf
    • @olaf
      Olaf

      Ça : ►https://github.com/Stability-AI/stablediffusion ?

      y a un requirements.txt bien propre (et y a du monde).

      git clone https://github.com/Stability-AI/stablediffusion/ --depth=2
cd stablediffusion

mkvirtualenv sDiff
pip install -r requirements.txt
# (télécharge l'internet python)

      et faut aussi :

      wget https://huggingface.co/stabilityai/stable-diffusion-2-1/blob/main/v2-1_768-ema-pruned.ckpt

wget https://huggingface.co/stabilityai/stable-diffusion-2-1-base/resolve/main/v2-1_512-ema-pruned.ckpt   # (5Go)

      et ensuite le bouzin semble démarrer :

      ~/stablediffusion$ ./txt2img.sh 
a professional photograph of an astronaut riding a horse
Global seed set to 42
Loading model from v2-1_512-ema-pruned.ckpt
Global Step: 220000
No module 'xformers'. Proceeding without it.
LatentDiffusion: Running in v-prediction mode
DiffusionWrapper has 865.91 M params.
making attention of type 'vanilla' with 512 in_channels
Working with z of shape (1, 4, 32, 32) = 4096 dimensions.
making attention of type 'vanilla' with 512 in_channels
Downloading: "https://github.com/DagnyT/hardnet/raw/master/pretrained/train_liberty_with_aug/checkpoint_liberty_with_aug.pth"
100%|██████████████████████████| ...]
open_clip_pytorch_model.bin:  21%|███████▉

      mais là, il vient d’exploser en plein vol ; il doit falloir 64G de ram :-)

      Olaf
    • @olaf
      Olaf
      @arno

      @arno leur space hugginface pointe aussi vers

      docker run -it -p 7860:7860 --platform=linux/amd64 \
	registry.hf.space/stabilityai-stable-diffusion:latest python app.py
      Olaf
    • @arno
      ARNO* ART LIBRE
      @olaf

      @olaf : je n’installe pas Stable diffusion seul. J’installe Automatic 1111 et/ou ComfyUI qui livrent des interfaces graphiques et d’autres outils qui donnent tout son intérêt à Stable Diffusion.

      Côté PC, j’ai un Windows de milieu de gamme, processeur i5 avec 16 Gigas de RAM et une carte Nvidia 3060, et ça fonctionne bien. Faut dire que comme je ne développe pas sur le PC, y’a pas des bouts de Python dans tous les sens. Mais ça tourne bien, et je fais tourner les modèles SDXL en 1024x1024 sans (trop) de difficulté (bon, ça plante assez régulièrement, mais je relance et ça repart). Ça prend environ une minute pour calculer une image de ce format.

      C’est sur Mac que je me fais chier. Soit parce que j’ai pas mal d’autres outils en Python installés qui utilisent plus ou moins les mêmes bibliothèques d’AI, soit parce que la version Mac d’Automatic 1111/Stable Diffusion est merdique (je sais pas et, comme décrit ci-dessus, les forums ne m’ont pas permis de m’en sortir). C’est un Mac M1 Pro avec 16Go, avant ça tournait pas mal du tout, depuis une semaine ça ne tourne plus du tout.

      ARNO* ART LIBRE
    • @olaf
      Olaf

      oki, merci ! Tu es largement plus affûté que moi :-) j’avais jamais essayé de truc d’IA et là pouf plantage de 1ere après des plombes de download ; j’ai tout viré et donc joué 5 minutes avec leur démo sur huggingface. Un service web clef en main c’est aussi bien pour moi ; mais j’imagine que toi tu préfères pas les mettre au parfum de ton usage ?

      Olaf
    Écrire un commentaire
  • Écrire un commentaire
  • @arno
    ARNO* ART LIBRE
    2
    @ericw
    @fitzlombard
    2

    Un algorithme qui permet de transformer des images et des vidéos en personnages de dessin animé.

    VToonify : Controllable High-Resolution Portrait Video Style Transfer
    ▻https://www.mmlab-ntu.com/project/vtoonify

    https://pixelfed.zoo-logique.org/storage/m/_v2/493728974881341455/3079cad20-917577/HsI8NijyNuIR/ieH0AWybzfXgcQhniHvDc5OqHMQZDLkPe0RZA5Ze.jpg

    Le code source est fourni :
    ▻https://github.com/williamyang1991/VToonify

    et on peut jouer avec sur HuggingFace :
    ▻https://huggingface.co/spaces/PKUWilliamYang/VToonify

    ARNO* ART LIBRE
    Écrire un commentaire