←
Nicolas613 posts
Nicolas avatar

Nicolas

@nb4ld

« Technohooligan » — dixit la TV russe. « Scathing » — dixit Forbes. « Séparatiste » — dixit Blanquer. « Dont on ignore les compétences » — dixit la Bâtonnière.

◷ Joined April 2013▧ 55 Photos and videos
Polymarket avatar
⟳ Nicolas retweeted
Polymarket@Polymarket·1h

BREAKING: Coalition of scientists, legal scholars, & tech leaders warns “Anthropic is not a safe AI company” in an open statement ahead of its IPO.

Nicolas avatar
Nicolas@nb4ld·1h

Update prix : 3080 20GB : 800 € HT 5090 FE : 5.5k€ HT pièce, garantie jusqu'à fin juillet 2028 Serveur Dell C4140 4x V100 SXM2 NVLINK watercooling, 2x xeon gold 6133, 128 GB ram : 6k€ HT

Nicolas avatar
Nicolas@nb4ld·8h

Pour les 4x 5090, je peux les vendre à l'unité ou alors dans un serveur rackable avec carte mère ROMED8-2T, CPU Epyc 7352, 128GB ram, alim asus 3000 watts

Post attachment
Nicolas avatar
Nicolas@nb4ld·9h

Les serveurs V100. Je peux les équiper également avec des cartes infiniband ou ethernet 100G. Éventuellement vendre le pack des 4 en cluster infiniband avec les câbles et le switch.

Post attachment
Nicolas avatar
Nicolas@nb4ld·9h

Les 3090 20GB, encore dans l'emballage du broker

Post attachmentPost attachmentPost attachment
Nicolas avatar
Nicolas@nb4ld·10h

Suite upgrade vers du plus gros, j'ai à vendre : 4x RTX 5090 32GB FE 8x RTX 3080 20 GB 4x serveurs 4xV100 32GB watercooling B2B uniquement DM ouverts

Pedro Domingos avatar
⟳ Nicolas retweeted
Pedro Domingos@pmddomingos·13h

If Anthropic had a secret sauce that no one else does, they'd have nothing to fear from selling GPUs to China.

Nicolas avatar
Nicolas@nb4ld·13h

Nothing will change. Chinese compagnies will just set-up proxy western companies and continue their operations.

there’s about to be *a lot* more B300 capacity in the US 100,000s of GPUs have been sitting in various third-world data centers being secretly rented to companies in China with the remote access loophole closed, these nodes are going to get redirected to the US/Europe instead and flood the market with new capacity not to mention all the outstanding orders for additional capacity that haven’t been fulfilled yet expect GPU prices to fall a bit over the coming months

Julien Chaumond avatar
⟳ Nicolas retweeted
Julien Chaumond@julien_c·Nov 17

Europe should get ready for short-term future where access to closed intelligence is revoked

Dario Amodei on open source models: “If the path continues, I think we could get to a very dangerous place.” “When you control a model and you're deploying it, you have the ability to monitor its usage.” “You can revoke a user's access. You can change what the model is willing to do.” “When a model is released in an uncontrolled manner, there's no ability to do that. It's entirely out of your hands.” “We should confront the advocates of this with that problem and challenge them to solve it.” He clearly doesn't believe Intelligence should be in the hand of the masses and Sam Altman also saying "RAM" shouldn't be accessible to everyone indefinitely agreed with him.

1:28
Nicolas avatar
Nicolas@nb4ld·Nov 17

Ça va bien m'aider pour mes travaux en cours 👍 On va tester ça.

Nicolas avatar
Nicolas@nb4ld·Nov 17

Petit modèle MoE 7B-1A, avec 32k de contexte. Ça n'a pas l'air impressionnant comme ça, mais OVH vise très juste. Il ne s'agit pas d'un modèle destiné au chat interactif ou à des agents de codage. C'est un modèle qui permet de traiter de la donnée rapidement. Avec une particularité : on peut le déployer partout. Sur l'ordinateur ou le smartphone d'un utilisateur lambda, sur l'hébergement mutualisé d'un site web. Pas besoin de grosse machine ou de GPU. C'est l'arrivée de l'IA en language naturel comme une commodité au sein du processus métier. - détermine le niveau de priorité d'un mail et le service vers lequel le transmettre - résume ou anonymise un document - corrige ou traduis ce message - extraits l'information de manière structurée - modère ce message posté sur le forum Et utile aussi pour celui qui a de gros GPU, pour du traitement massif. - voici 3 millions de jurisprudences, fais un extrait des articles de loi cités par chaque dans un format normalisé - lis intégralement ces 30 000 articles scientifiques pour trouver lesquels sont pertinents par rapport à notre travail Bref. Bravo OVH ! Hâte de voir la suite.

OVH annonce Olala mini 7A1B OVH sa première famille de LLM. Premier représentant de cette famille, Olala mini 7A1B est un modèle compact bâti sur une architecture inédite. Olala : le modèle innovant dans l’attention hybride 
Olala mini repose sur une architecture de 7 milliards de paramètres (7B)  avec un milliard activés répartis entre 256 experts par couche, l’attention hybride avec Differential-TPA et Mamba-3, au format BF16. Seule une fraction du modèle est sollicitée à chaque requête, ce qui le rend plus rapide et moins gourmand en mémoire. Conséquence directe: le modèle fonctionne sur un GPU doté d’un minimum de 8 Go de mémoire, il atteint 160 tokens par seconde sur une RTX A4500, et même sans GPU, sur un simple processeur, à 50 tokens par seconde. Sa fenêtre de contexte atteint aujourd’hui 32 000 tokens. Olala mini sera disponible en open source sur Hugging Face, sous licence Apache 2.0. Entraîné avec l’aide publique européenne et en fonctionnement chez Qwant 
Olala mini a été entraîné sur trois supercalculateurs publics européens, Jupiter, MeluXina et Jean Zay, équipés de GPU GH200, A100 et H100. Ce soutien, qui représente l’équivalent de 7 M€ en heures de calcul, a été déterminant, et OVH tient à en remercier les pouvoirs publics. L’initiative publique s’est révélée un succès à plus d’un titre : elle a fait émerger une équipe d’exception en intelligence artificielle et a donné naissance au Lab Agentique d’OVH: OVHai LLM. Olala mini est publié avec ses poids, son modèle de base pré-entraîné, son rapport technique et sa documentation de conformité à l’AI Act. Qwant l’a déjà adopté pour sa fonctionnalité de réponse flash, avec des gains significatifs : des réponses 20 % plus rapides et des coûts de fonctionnement divisés par trois par rapport au modèle précédemment utilisé. En route vers la v1.1, puis la v2.0  
Attendue d’ici la fin de l’année, la version 1.1 portera la fenêtre de contexte à 128 000 tokens et améliorera ses performances en raisonnement mathématique. Avec la version 2.0, OVHai LLM entend développer des modèles spécialisés dans trois domaines. D’abord, l’agentique pour les entreprises : à terme, Olala alimentera OVHai Workspace, dont la version chiffrée nécessitera des modèles capables de tourner en local, directement sur le poste de travail. Ensuite, le DevOps cloud, avec des déclinaisons adaptées aux développeurs, aux architectes et aux équipes d’exploitation qui assurent la continuité de service 24h/24. Enfin, la cybersécurité, dans ses volets défensif comme offensif. Olala v2.0 dépassera les 100 milliards de paramètres. corporate.ovhcloud.com/fr/ne…

Post attachment
Nicolas avatar
Nicolas@nb4ld·Nov 17

Bah déjà, la base c'est de démembrer pour transmettre avant l'héritage 🙄

Nous instaurerons un plafond de 5 logements transmissibles par héritage. Au-delà, les biens seront réquisitionnés par l’État et redistribués entre le parc social et des dispositifs d’accès à la propriété.

Nicolas avatar
Nicolas@nb4ld·Nov 16

Laurence, c'est pour toi ça ⬆️

J'ai fait un petit test avec une IA. Je lui ai demandé de me produire une bibliographie sur un sujet que je connais bien... Eh bien ⤵️