←
Pascal Poty24,585 posts
Pascal Poty avatar

Pascal Poty

@Mobisphere

Born at 322.17 ppm CO2 Senior ExP @adn_wallonie @digitalwallonia Program Dir. AI - Pr. & Epicurean Enthusiastic, Author of the book l'Instant Mobile. E/acc

◷ Joined May 2007▧ 723 Photos and videos
Octave Klaba avatar
⟳ Pascal Poty retweeted
Octave Klaba@olesovhcom·Nov 17

OVH annonce Olala mini 7A1B OVH sa première famille de LLM. Premier représentant de cette famille, Olala mini 7A1B est un modèle compact bâti sur une architecture inédite. Olala : le modèle innovant dans l’attention hybride 
Olala mini repose sur une architecture de 7 milliards de paramètres (7B)  avec un milliard activés répartis entre 256 experts par couche, l’attention hybride avec Differential-TPA et Mamba-3, au format BF16. Seule une fraction du modèle est sollicitée à chaque requête, ce qui le rend plus rapide et moins gourmand en mémoire. Conséquence directe: le modèle fonctionne sur un GPU doté d’un minimum de 8 Go de mémoire, il atteint 160 tokens par seconde sur une RTX A4500, et même sans GPU, sur un simple processeur, à 50 tokens par seconde. Sa fenêtre de contexte atteint aujourd’hui 32 000 tokens. Olala mini sera disponible en open source sur Hugging Face, sous licence Apache 2.0. Entraîné avec l’aide publique européenne et en fonctionnement chez Qwant 
Olala mini a été entraîné sur trois supercalculateurs publics européens, Jupiter, MeluXina et Jean Zay, équipés de GPU GH200, A100 et H100. Ce soutien, qui représente l’équivalent de 7 M€ en heures de calcul, a été déterminant, et OVH tient à en remercier les pouvoirs publics. L’initiative publique s’est révélée un succès à plus d’un titre : elle a fait émerger une équipe d’exception en intelligence artificielle et a donné naissance au Lab Agentique d’OVH: OVHai LLM. Olala mini est publié avec ses poids, son modèle de base pré-entraîné, son rapport technique et sa documentation de conformité à l’AI Act. Qwant l’a déjà adopté pour sa fonctionnalité de réponse flash, avec des gains significatifs : des réponses 20 % plus rapides et des coûts de fonctionnement divisés par trois par rapport au modèle précédemment utilisé. En route vers la v1.1, puis la v2.0  
Attendue d’ici la fin de l’année, la version 1.1 portera la fenêtre de contexte à 128 000 tokens et améliorera ses performances en raisonnement mathématique. Avec la version 2.0, OVHai LLM entend développer des modèles spécialisés dans trois domaines. D’abord, l’agentique pour les entreprises : à terme, Olala alimentera OVHai Workspace, dont la version chiffrée nécessitera des modèles capables de tourner en local, directement sur le poste de travail. Ensuite, le DevOps cloud, avec des déclinaisons adaptées aux développeurs, aux architectes et aux équipes d’exploitation qui assurent la continuité de service 24h/24. Enfin, la cybersécurité, dans ses volets défensif comme offensif. Olala v2.0 dépassera les 100 milliards de paramètres. corporate.ovhcloud.com/fr/ne…

Post attachment
Pascal Poty avatar
Pascal Poty@Mobisphere·Oct 28

Un ancien journaliste, un jeune prodige, un génie de la physique… Ces 5 fantastiques d'Anthropic qui travaillent dans l'ombre des Amodei lesechos.fr/tech-medias/inte…

Pascal Poty avatar
Pascal Poty@Mobisphere·Oct 28

600 millions d'euros de profit par jour... Le géant de la mémoire SK Hynix dément toute crise dans l'IA lesechos.fr/tech-medias/inte…

Pascal Poty avatar
Pascal Poty@Mobisphere·Oct 28

China is well placed to lead the world by 2030 in the large language models at the core of artificial intelligence, and will be at least competitive in every other strategically important technology, according to a new Bloomberg Intelligence report. bloomberg.com/news/articles/…

Pascal Poty avatar
Pascal Poty@Mobisphere·Oct 25

Gartner said through 2030, AI data center owners would need to generate a cumulative $8.5 trillion in revenue to cover announced capital spending, financing costs, and a 12% ROIC. More here. #AI gartner.com/en/newsroom/pres… via @Gartner_Inc

Pascal Poty avatar
Pascal Poty@Mobisphere·Oct 25

Vendeurs de pelles et pioches et les autres… Note d’Apollo Global Management selon laquelle, en dehors du secteur technologique, l’usage de l’IA n’a produirais aucun gain financier mesurable pour les entreprises américaines apollo.com/wealth/insights-n…

Pascal Poty avatar
Pascal Poty@Mobisphere·Oct 25

« On a eu d’excellents retours » : Carrefour lance les courses via ChatGPT, avec recettes, budget et livraison rtl.be/actu/conso/eu-dexcell…