Forum de FilmDeCulte

Tiens d'ailleurs, Gontrand, dans ta boîte, tu dois tokenmaxxer ?
Comment réagissent tes managers au modèle pay-per-use qui est en train d'arriver et qui coûte une fortune ?

_________________
Renseigne-toi sur Eric Trexler, neuneu !

Alors bonne question.

Pour l'usage, on a des machine avec des GPU Nvidia, et on télécharge les modèles dessus avec Huggin Face (une sorte de Git Hub de l"IA) et on les exécute via une API Python, Transformer, via CUDA, une librairie bas-niveau NVIDIA. Le seul LLM d'envergure accessible dessus est à ma connaissance Qwen sous différentes formes, mais il est intéressant pour ce que nous faisons, et il nous permet d'apprendre un peu le domaine
On utilise aussi des modèles plus petits de reconnaissance d'images comme YOLO, intéressants parce qu'ils nous permettent de faire un peu de fine tuning voire d'entraînement.

Certains services ne souhaitent pas que des données plus sensibles transitent par des API de services. Les coûts principaux sont les machines et nos salaires.

On n'est pas tokenmaxxés, je travaille pour une administration et un institut de recherche, donc ce n'est pas la culture. Et en interne, on serait un peu dans une situation où on s'évaluerait nous-mêmes. Sauf s'ils passent de la consultance ou nous rattachent à une structure plus grosse, et ils en discutent.
J'utilise aussi des interfaces de développement simples (Notepad++, il est peu sécurisé mais je l'aime bien, et Gedit), or le tokenmaxxing va passer par l'intégration avec les IDE.

Par contre les bourses nationales pour les projets scientifiques de l'équivalent belges du CNRS imposent l'IA sur des thématiques qui n'ont pas grand chose à voir (anthropologie africaine, muséologie) et c'est indirectement un critère de sélection et d'évaluation des scientifiques. C'est à la fois une stratégie politique (plaire à l'opinion et aux ministres qui voient l'IA comme un outil d'amélioration et de mesure de la productivité) et un prétexte pour réduire le financement public de la recherche dans des secteurs comme les sciences humaines et la biologie environnementale qui ont peu de lien avec le secteur privé.

_________________
je croyais que dans leur monde bouclé par le sadisme, eux-mêmes vivaient en parfaite sécurité

Imre Kertész

Donc si j'ai bien compris, votre seule utilisation de l'IA, ce sont des modèles Open Source que vous exécutez en local ?

Ca va, t'as de la chance. Parce que dans les grosses boîtes, apparemment, les ingénieurs deviennent dingues à cause de l'IA imposée pour tout par des managers qui ne comprennent rien à ce qu'ils font et qui exigent des résultats délirants dont l'IA est incapable.

_________________
Renseigne-toi sur Eric Trexler, neuneu !

En gros oui, même si je ne suis pas sûr que tous les modèles accessibles sur Hugging Face soient open-source
Ils sont en tout cas gratuits avec un paramétrage modifiable.
On utilise aussi quand-même ChatGPT ou Claude via l'agent public pour coder ou rentrer dans des applications et frameworks que nous ne connaissons pas (facteur qui ne facilite pas la rationnalisation et l'économie), par exemple des vieux systèmes.
On utilise en effet beaucoup d'open source pour développer, sauf pour le data-center en VMWare, devenu impayable.


Oui j'ai de la chance je suis dans une administration qui a son propre datacentrer (mais on est clairement menacé) et je fais du développement full stack voire du devop, un peu d'ingénierie de données et d'administration de systèmes (mais pas de réseau), un peu de scripting pour les scientifiques,je vais pas me plaindre. Mais à mon âge cette versatilité n'est pas forcément bien perçue par le marché du travail.

_________________
je croyais que dans leur monde bouclé par le sadisme, eux-mêmes vivaient en parfaite sécurité

Imre Kertész

On est en train de déployer l'IA dans ma boîte également (mélange de Claude et de Mistral en local si j'ai bien compris).
Le choix qui a été fait a été de l'ouvrir dans un premier temps à un échantillon d'utilisateurs pour trouver des cas d'usages concrets.
A partir de là, on aura des prompts pré-écrits.

_________________
You are a ghost driving a meat covered skeleton made from stardust riding a rock floating through space.
FEAR NOTHING

BILANS CINEMA : 2023 I 2024 I 2025

Partir dans une technologie quand-même assez lourde sans idée des use-cases mmm.

Dans notre cas ils sont assez identifiés : OCR et reconnaissance de textes manuscrits (quand des logiciels éprouvés comme Tesseract ne suffisent pas), traduction et génération automatiques de métadonnées (par exemple pour du JSON-LD ou schema.org), extraction de mots-clés dans des documents, sous un angle plus axé recherche reconnaissance automatique d'espèces animales ou de bois pour des problématiques de santé publique (espèces vectrices de maladies parasites) ou identification de trafic de bois à la douane (même si dans les faits l'IA ne reconnait que le genre dans notre cas, ile ne faut pas s'attendre à des miracles, mais l'idée est aussi de collaborer avec des scientifiques et informaticiens du Sud) etc...



Ce sont aussi des use-cases un peu secondaires (à part l'OCR au centre d'un projet) et exploratoires, on ne prend ainsi pas trop de risques en cas de difficultés.

On n'en est pas encore à relier directement l'IA à des moteurs de recherche dans des bases de données par exemple (les approches qui nous sont accessibles compte tenu de nos moyens comme MCP ou RAG sont encore émergentes, les petits jeunes sont aussi plus à l'aise avec elles que nous).

_________________
je croyais que dans leur monde bouclé par le sadisme, eux-mêmes vivaient en parfaite sécurité

Imre Kertész

Je te dis ça, je suis très loin du projet
Y'a sûrement des recherches de cas d'usage d'abord avec des tests avant de tenter à plus grande échelle.

_________________
You are a ghost driving a meat covered skeleton made from stardust riding a rock floating through space.
FEAR NOTHING

BILANS CINEMA : 2023 I 2024 I 2025

J'ai vu au ciné une pub pour King Jouet avec KING, la mascotte de la marque (un lion anthropomorphe). Le truc est en image de synthèse (avec l'obligatoire de nos jours "Je me transforme en super-héros" comme dans la pub Galaxie Tennis). Mais tu peux voir que c'est de l'I.A. Y a juste un truc qui est off. C'est du CGI mais pas vraiment quoi, c'est différent.

Pouah.

_________________
Liam Engle: réalisateur et scénariste

La pub pour le Palais de la femme aussi.

_________________

L'autre jour j'étais sur la page de ce théâtre:
https://www.lescribeetlabayadere.fr/spectacles

Et tu peux remonter les spectacles d'aujourd'hui jusqu'à 2022. Et tu vois bien la bascule, avec de nos jours plusieurs affiches I.A. mais à l'époque c'était encore inexistant, juste du Photoshop de théâtre pourri comme on aime.

_________________
Liam Engle: réalisateur et scénariste

et petit exemple d'ia qui s'incruste dans la post prod mainstream :

le vrai plan à 5:55 :
https://www.youtube.com/watch?v=yJtckcMHM2g

qui devient le dernier plan i.a.isé à 3:53:
https://www.youtube.com/watch?v=EHrt-gFgvXo

On approche de l'explosion de la bulle.
Elle va faire mal, celle-là.

Et sinon :
https://www.theatlantic.com/technology/ ... er/687901/

_________________
Renseigne-toi sur Eric Trexler, neuneu !

Enfin pardon mais cimer les sources du mec pour l'intro de son article:

"Hard drives that I bought for my reporting two years ago for $350 each were $800 when I checked two weeks ago, and are now out of stock. The prices of some laptops have gone up as much as 50 percent, and low-cost computers are being hit the hardest. Affordable entry-level computers may “disappear by 2028” according to one forecast."

Ce n'est pas si improbable. On voit que l'arrivée de l'automobile électrique et de la conduite automatique réduit drastiquement l'offre de petites voitures citadines abordables (et moins polkuantes) en Europe (plus de 108 ou de C1).
D'une part les fabricants ont peu de marge dessus alors qu'ils doivent investir sur des nouveaux produits (et s'ils ne le font pas cela consolide le marché en monopoles qui tirent encore plus les prix à la hausse), d'autre part les clients hésitent à remplacer leur matériel et le rentablisent à mort, en anticipant la hausse de prix ils la renforcent.

Au début des années 2000 on ne pensait pas que le MP3, le p2p et plus que tout YouTube allait faire disparaitre le CD et même le format disque (il existe encore, mais n'est plus ce qui structure l'achat et l'écoute du client), ou 20 ans après que le COVID allait accélérer la prédominance complète du streaming (ou encore de YT) sur la salle et le DVD/Blu Ray

Le même phénomène peut toucher l'informatique. Le PC pourrait disparaître, bouffé par en haut par le cloud et l'IA et par en bas par le smartphone. Déjà les versions récentes d'Office rendent délibèrement difficile la sauvegarde de fichier sur disque dur, par comparaison avec le cloud OneDrive (ce qui est uke manière pour Microsoft de capturer les clients alors qu'il perd un avantage technique, les LLM et l'IA brouillant la séparation entre données statiques et traitement donnant pnproduit fini), même les logiciels eux-mêmes et tendent à être proposés via Sharepoint. Ce qui est inquiétant (et inédit) est que la tendance est plus accusée pour les produits d'entreprise que pour les particuliers, donc plus diffuse, et posant un problème de souverainté technique grave à l'Europe (en ciblant en premier les entreprises on s'assure qu'elles demeurent des clients plutôt que des concurrents -lors de l'arrivée du PC l'Europe avait résisté économiquement avec les SS2I mais on ne voit rien de tel à présent)..

Après je crois que l'AI a un vrai talon d'Achille : l'outil est trop puissant relativement à des besoins qu'il modifie finalement peu (soit l'inverse du mp3 ou du smartphone).

Là au travail je soumet des propositions de conception de modèles de base de données relationnels à ChatGPT et Claude et je commence limite à m'engueuler avec eux comme un collègue chiant : je ferais comme si, je diviserais cette table en deux, et je rajouterais cela. Peux-tu m'envoyer l'analyse voire la documentation de cela pour que je cerne mieux puis si j'insiste contre elle finalement l'idée est intéressante mais pourrait être poussée plus loin
Rien n'est absurde, mais comme certains humains elle transforme son incapacité à décider ou à évaluer un bon compromis entre qualité et ressources en exigences et impératifs infinis et finalement en surplace.

_________________
je croyais que dans leur monde bouclé par le sadisme, eux-mêmes vivaient en parfaite sécurité

Imre Kertész