PyTorch , le framework chouchou des bidouilleurs d’IA, vient de nous pondre un petit truc cool : Torchtune ! 💎 Cette nouvelle bibliothèque native, encore en phase alpha mais déjà disponible en open-source sur GitHub, va vous permettre de fine-tuner les gros modèles de langage (LLM) comme un pro, sans vous prendre la tête.

Torchtune est donc une boîte à outils hyper flexible et modulaire qui va vous permettre de vous éclater à customiser des modèles pour vos propres besoins, le tout avec des recettes mémoire efficaces qui tournent même sur une bête carte graphique de gamer, comme les NVidia 3090/4090.

Son secret ?

Une architecture bien pensée qui mise sur l’interopérabilité avec l’écosystème des LLM, qu’ils soient open-source ou non. Concrètement, ça veut dire que vous allez pouvoir brancher Torchtune à tout un tas d’outils et de frameworks que vous adorez déjà, comme Hugging Face 🤗, PyTorch FSDP 🪢, Weights & Biases 📈, et plein d’autres.

Grâce à des recettes simples et bien documentées pour les modèles populaires comme Llama 3, Mistral ou Gemma 7B, même les débutants vont pouvoir se lancer dans l’aventure sans flipper. Bon OK, il faudra quand même un peu de bagage en PyTorch et en LLM, mais rien d’insurmontable ! Et si vous êtes un pro, vous allez pouvoir hacker le code à volonté pour l’adapter à vos besoins spécifiques.

Alors comment on met les mains dans le cambouis avec Torchtune ?

Rien de plus simple, mon cher Watson ! Il vous suffit d’installer la dernière version stable de PyTorch (2.2.2 au moment où j’écris ces lignes), puis de télécharger Torchtune depuis PyPI avec un petit

pip install torchtune

Et voilà, vous êtes prêt à en découdre avec les LLM !

Pour vous faire les dents, je vous conseille de jeter un œil au tutoriel sur le fine-tuning de Llama2 7B. C’est le parfait point de départ pour comprendre comment Torchtune fonctionne et comment l’utiliser pour vos propres projets.

En gros, ça se passe en 4 étapes :

1. Téléchargez le modèle pré-entraîné et le tokenizer depuis Hugging Face Hub avec tune download .
2. Choisissez une recette de fine-tuning (LoRA, QLoRA, full…) et customisez-la avec un fichier de config en YAML.
3. Lancez l’entraînement avec tune run en précisant votre recette et votre config. Vous pouvez même faire du multi-GPU avec torchrun !
4. Admirez le résultat et testez votre modèle fine-tuné avec une inférence locale. Si tout se passe bien, exportez-le avec ExecuTorch pour le déployer en prod, ou utilisez les API de quantification de Torchao pour l’exporter en int4 ou int8 et l’utiliser sur mobile ou en edge.

Facile, non ? 😄

Bon OK, j’avoue, j’ai un peu simplifié. En vrai, il y a pas mal de subtilités et de paramètres à régler pour obtenir les meilleurs résultats, comme le learning rate, le nombre d’époques, la taille du batch, le ratio de LoRA, et tout un tas d’autres trucs, mais c’est justement sa flexibilité qui vous permet d’expérimenter à l’infini pour trouver la combinaison parfaite.

Bref, si vous êtes dev et que vous aimez jouer avec les LLM c’est à tester.

Source

Modrinth , la plateforme open-source dédiée aux mods Minecraft , vient de prendre une décision aussi inattendue que courageuse : rendre l’argent à ses investisseurs pour redevenir indépendante ! Ça c’est ce que j’appelle avoir des couilles en vibranium !

Figurez-vous qu’il y a un an et demi, Modrinth avait levé 1,2 million de dollars auprès d’investisseurs. Ça leur a permis d’embaucher des développeurs à plein temps, de lancer plein de nouvelles fonctionnalités comme la monétisation pour les créateurs , l’ authentification , les analytics , les collections … Bref, de faire grimper le nombre d’utilisateurs de manière exponentielle !

Mais voilà, cette croissance à tout prix a fini par leur faire perdre de vue l’essentiel. Les bugs se sont accumulés, la modération a pris du retard… Et surtout, ils ont réalisé que le modèle des startups financées par des investisseurs n’était pas compatible avec leurs valeurs. Parce que les investisseurs, aussi sympas soient-ils, attendent forcément un retour sur investissement. Et ça pousse à prioriser le profit et la croissance plutôt que la communauté et les créateurs.

Alors Modrinth a décidé de prendre son destin en main . Ils ont rendu 800 000 dollars aux investisseurs, et ont réduit drastiquement la taille de l’équipe pour revenir à un rythme de développement plus durable. Ça n’a pas été facile, ils ont dû se séparer de plusieurs personnes qui avaient beaucoup apporté au projet, mais c’était nécessaire pour rester fidèles à leurs principes.

Maintenant, Modrinth est de nouveau entre les mains de la communauté. Ils peuvent se concentrer sur ce qui compte vraiment : offrir la meilleure expérience possible aux joueurs et aux créateurs de mods, sans pression pour faire du chiffre à tout prix. Bien sûr, il faut quand même que le projet soit viable économiquement, mais ça, ils savent faire. L’hébergement est déjà rentable, et ils travaillent à rendre le développement durable aussi.

Pour ça, ils misent sur une meilleure infrastructure de modération (avec de l’automatisation et des outils pour les modos), plus de transparence sur l’avancement du projet, et plus de facilité pour contribuer au code. Le but, c’est que la communauté puisse vraiment s’approprier Modrinth, et que ça devienne un bien commun géré collectivement.

Et là, moi je dis chapeau bas ! Dans un monde où la plupart des boîtes ne jurent que par la croissance, quitte à vendre leur âme au diable, ce genre de prise de position fait un bien fou. Ça prouve qu’on peut faire des choses géniales sans se compromettre, en restant fidèle à ses valeurs et à sa communauté.

Alors si vous êtes un joueur Minecraft , un créateur de mods , ou juste quelqu’un qui croit à l’importance de l’ open-source et des projets communautaires, je vous invite à soutenir Modrinth dans cette nouvelle étape de sa vie.

Source

Imaginez un monde merveilleux où les secrets enfermés dans les binaires compilés ne seraient plus inaccessibles aux simples mortels que nous sommes…

C’est exactement ce que LLM4Decompile , le premier LLM (Large Language Model) open-source dédié à la décompilation, promet de réaliser. Fruit d’un travail de recherche innovant mené par une équipe de chercheurs passionnés, ce modèle révolutionnaire ouvre de nouvelles perspectives dans le domaine du reverse engineering.

Jusqu’à présent, la décompilation, c’est-à-dire le processus qui consiste à retrouver le code source à partir d’un exécutable compilé, restait un défi de taille. Les outils existants peinaient à produire un code lisible et compréhensible par les humains, ce qui est logique puisqu’il y a une grosse perte d’informations lors de la compilation. Mais ça, c’était avant l’arrivée de LLM4Decompile !

Entraîné sur un énorme dataset de 4 milliards de tokens de code C et d’assembleur x86, ce modèle de langage surpuissant a appris à décoder les secrets des binaires. Grâce à son architecture basée sur les Transformers et ses milliards de paramètres, il est donc capable de capturer les patterns et la sémantique du code à un niveau inédit.

Mais les chercheurs ne se sont pas arrêtés là. Ils ont aussi développé le premier benchmark standardisé pour la décompilation baptisé Decompile-Eval . Basé sur des problèmes de programmation réels, il permet d’évaluer la capacité des modèles à regénérer un code recompilable et ré-exécutable. Exit les métriques de similarité de tokens, place à des critères solides et pertinents ! LLM4Decompile parvient à recompiler 90% des binaires décompilés (oui oui, je me suis pas trompé) !

Mieux encore, 21% du code re-généré réussit tous les tests unitaires, démontrant une préservation de la logique du programme. C’est 50% de plus que GPT-4, pourtant considéré comme l’état de l’art.

Cerise sur le gâteau, LLM4Decompile est entièrement open-source. Les modèles pré-entraînés de 1,3 à 33 milliards de paramètres sont disponibles sur Hugging Face, prêts à être utilisés et améliorés par la communauté. Le code, les données d’entraînement et le benchmark sont aussi accessibles sur GitHub.

Bien sûr, LLM4Decompile n’est qu’un premier pas vers la décompilation par l’IA. Il reste limité au langage C et à l’assembleur x86, et ne gère pour l’instant que des fonctions isolées. Mais les perspectives sont immenses ! On peut imaginer étendre son champ d’action à d’autres langages et architectures, voire carrément l’utiliser pour transpiler automatiquement du code entre différents langages.

Les applications potentielles sont nombreuses : reverse engineering de logiciels legacy (ça veut dire obsolète mais encore utilisé.. .argh !), analyse de malware, portage de vieux jeux vidéos, etc. Même les vieux binaires qui sentent la naphtaline n’auront bientôt plus de secrets pour nous !

Si vous lisez mon site depuis longtemps, vous savez que j’apprécie tous ces petits projets de DIY (Do It Yourself), alors maintenant qu’on peut y coller un peu d’IA, j’ai l’impression que tout devient possible. Tenez par exemple ce projet baptisé Adeus.

C’est un dispositif portable d’intelligence artificielle open source capable de vous accompagner à chaque instant. Cette technologie, bien plus qu’un simple gadget, deviendra possiblement de standard des années qui arrivent. La preuve avec le succès du Rabbit R1 qui n’a pour d’autres buts que de remplacer les smartphones.

Alors comment fonctionne Adeus ?

Hé bien, ce système se compose de trois éléments clés qui interagissent les uns avec les autres :

Il y a tout d’abord une application mobile / web qui n’est ni plus ni moins qu’une interface qui permet à l’utilisateur d’interagir avec son IA personnelle et ses données par le biais d’un chat.

Côté matos, il y a le dispositif portable qui enregistrera tout ce que l’utilisateur dit ou entend, et l’enverra au backend pour être traité. Pour le moment, c’est possible à déployer sur un Raspberry Pi Zero W ou un appareil CoralAI .

Et ce backend basé sur Supabase, avec sa base de données, sera capable de traiter et stocker les données que nous échangeons avec les LLM (Large Language Model).

Toutefois, pour garantir le respect de nos données et notre propriété intellectuelle, Adeus a choisi la voie de l’ open source . Grâce à cette philosophie, il est possible de garder un œil sur le fonctionnement de l’IA et de s’assurer qu’aucun tiers ne peut accéder à notre précieux contenu. Pour un objet à qui on confie toute sa vie perso, je trouve ça plutôt sain.

Pour en savoir plus, vous pouvez consulter la page GitHub d’Adeus qui regorge d’informations détaillées sur le projet.

Merci à Lorenper

For those not fully engaged in the global manga/webtoon phenomenon, the scale and depth can be a little bewildering.

Fans are knowledgeable, passionate, and growing in numbers, with many older enthusiasts having been introduced to the content via pirate sites, at a time when content was impossible to buy legally.

Availability is much improved today but old habits die hard; pirate sites haven’t gone away either, a major challenge for content owners everywhere, in every content category.

One of the companies attempting to reduce piracy of its ‘webtoon’ content is South Korea-based Kakao Entertainment. Unlike other large copyright holders that have coupled strong anti-piracy responses with generally moderate public profiles, Kakao prefers a different approach. The company’s anti-piracy team constantly engages with the public on social media, often with controversial results.

Of course, Kakao is entitled to these freedoms. The company owns the content it seeks to protect and since almost all anti-piracy strategies fail to a greater or lesser extent, trying something different could inject new life and lead to fresh ideas.

That being said, the history books show that some scenarios should be approached with caution; when certain ingredients are combined, there’s a heightened risk of unpredictable results.

Open Source Manga Reader ‘Tachiyomi’ Receives Legal Threats

For the last ten days or so, open source software ‘Tachiyomi’ has found itself under the spotlight following an approach by Kakao’s anti-piracy team. But first, what does the software do? A manga aficionado familiar with the software informed TorrentFreak as follows:

“Tachiyomi is probably the ultimate Android-based manga/webtoon reader with plenty of features and extensibility. The development team behind it has been hard at work for close to 9 years since 2015, and has tirelessly iterated upon it, to create possibly the best kind of reader there is today.”

Tachiyomi is free to use, with the added bonus of being completely open source. In common with similar tools, such as web browsers or torrent clients, Tachiyomi contains no third-party content and makes no attempt to lock users into specific sources.

However, through various extensions, users are free to choose their own, including unofficial sources from where it’s possible to download content, including pirated content, without ever paying a penny.

We’re informed that on January 2, 2024, project contributors received communication from Kakao’s representatives who made several demands in respect of this functionality.

A source familiar with events informs TorrentFreak that the main developer of Tachiyomi was instructed to terminate the nine-year-old project by deleting all versions of the app, including those on GitHub.

He was further ordered to delete any comics uploaded to the app, despite the app carrying no third-party content, period. A further demand sought the immediate removal of all Tachiyomi forks on GitHub.

Tachiyomi Begins Removing Extensions

We understand that later on January 2, Tachiyomi’s main developer advised Kakao that the best way to take actual content down would be to file DMCA notices at problematic sites, over which the project has no control. He also offered to help, advising the company that he was willing to remove individual sources from Tachiyomi’s separate extension repo if those were considered an issue.

Three days later, Kakao reportedly presented a spreadsheet that listed allegedly infringing content available from five third-party sites. For one of those sites, Tachiyomi had no extension; for the remaining four, the Tachiyomi team would soon take appropriate action.

New versions of Tachiyomi were released between January 6 and January 8 without a list of extensions being preloaded. Moving forward, those who download Tachiyomi will find that extensions are no longer part of the ‘out-of-the-box’ experience.

January 9: Official Announcement

An announcement on tachiyomi.org dated January 9 spoke of “extenuating circumstances” and a decision to purge extensions to “ensure the long-term sustainability of Tachiyomi.”

“As of now, Tachiyomi is transitioning to a fully bring-your-own-content model. What this means is that you can still enjoy Tachiyomi for manga reading, but you’ll need to source and add your own content,” the statement added.

24 Hours Earlier

As detailed above, the Tachiyomi team responded to Kakao’s complaints quickly and went on to take significant action. Arguably the new versions of the app could’ve been pushed even sooner absent a 48-hour delay to determine certain details.

However, what appeared to be an amicable solution triggered an unexpected Twitter post by Kakao’s anti-piracy team. It implied that installing Tachiyomi carries a risk of viruses.

The post has now received 59K views and to quickly summarize the first few dozen responses, people didn’t especially appreciate a long-established open source app being described as a virus risk. One of the more polite responses can be seen below.

For reasons that can vary from person to person and sometimes between communities, people often feel protective of open source projects. In some respects, their open nature seems to provide a small oasis of trust and when that’s surrounded by free, open source software, any perceived threat risks an unpredictable response.

It appears two can play that game.

January 10: Kakao Threatens Tachiyomi Forks

Having obtained compliance from the Tachiyomi team without a struggle, and then declaring the software a virus risk regardless, on Wednesday Kakao’s anti-piracy team took to Twitter once again, this time to threaten people who forked the Tachiyomi repo.

Qui n’aime pas le délicieux goût et l’arôme du pain au levain frais ?

Mais saviez-vous que la réussite de cette merveille consiste principalement à en maîtriser la fermentation ?

Et bien, sachez-le, il existe un livre open source absolument fantastique qui va vous aider à réaliser le meilleur pain au levain possible à la maison?

Suivre une recette sans connaître les bases de la fermentation peut être une vraie source de frustrations et d’échecs donc au lieu de simplement fournir des recettes, ce livre fournit un véritable framework qui vous permettra d’adapter les différentes méthodes de fabrication à votre propre environnement. Il prend en considération les différences entre les farines, les levains et les configurations de chaque maison.

Ce projet collaboratif (en anglais) a été créé pour rassembler et exploiter nos connaissances collectives sur la fermentation naturelle. Les versions modifiées du bouquin sont automatiquement mises à jour à chaque modification sur la branche principale du dépôt git, pour que chaque contribution puisse s’ajouter au projet et atteindre l’objectif commun, à savoir mieux comprendre la fermentation et réussir notre pain au levain à la maison.

Le livre est disponible en plusieurs formats : PDF , EPUB , MOBI , et AZW3 .

Le projet encourage les contributions constructives pour améliorer sans cesse le contenu. Si vous trouvez une faute de frappe ou que vous trouvez qu’une formulation pourrait être améliorée, n’hésitez pas à ouvrir une pull request à tout moment ! C’est ça, la beauté et la force de l’open-source ;-).

Bref, n’attendez plus pour découvrir cet incroyable univers du pain au levain et laissez-vous guider par ce livre ouvert auquel vous pourrez participer.

A vous de jouer, les boulangers amateurs !

Pour les plus anciens, nous avons commencé avec Winzip, puis nous sommes passé à Winrar et ses 90 jours d’essai éternel… Puis un jour, 7zip a pointé le bout de son nez. La particularité de ce logiciel de compression, c’est qu’il est open source. Et qui dit open source (et libre également), dit possibilité de le modifier et d’en faire tout à fait autre chose.

C’est là qu’entre en scène NanaZip, un clone de 7zip conçu pour les Windows récente qui donc dispose de toutes les fonctionnalité de son grand frère, mais également de choses supplémentaires comme un menu contextuel adapté à Windows 10 / 11, la possibilité de décompiler les script NSIS pour les archives NSIS , un alias d’exécution 7-Zip pour aider les utilisateurs à migrer vers NanaZip, et le support des codecs Brotli, Fast-LZMA2, Lizard, LZ4, LZ5 et Zstandard.

NanaZip intègre également intègre les algorithmes de hachage de RHash et xxHash. Le logiciel intègre également certains éléments de sécurité comme le marquage de tous les binaires cibles x86 et x64 pour les rendre compatible avec la technologie de Control-flow (CET) Shadow Stack d’Intel qui permet de se protéger contre les attaques de type ROP (dépassement de pile).

Bref, c’est comme 7zip mais au goût du jour car bien adapté à Windows 11.

Vous trouverez l’outil sur le Microsoft Store .

One criticism of legitimate streaming platforms such as Netflix, Disney+ and Prime Video, involves content discovery. Even if people subscribe to all three, there’s no official way to carry out a unified search and view in one app.

This issue isn’t unique to legal platforms. Pirate sites also have their own libraries and while they’re nowhere near as restricted as their licensed counterparts, the ability to search multiple resources from one interface is definitely considered a big plus among users.

It’s a problem the CloudStream app attempted to solve.

Cloudstream-3 – Open Source, No Ads

Installing piracy-focused apps is everyday work for millions of Android users but in common with any software downloaded from the internet, there can be nagging doubts that unwanted features might come as part of the package. That’s just one of the reasons that users like CloudStream-3.

Now in its third iteration, CloudStream-3 is free, open source, reportedly clean , and available in a couple of dozen languages. The app aggregates content from a huge number of third-party sites (more than 50 at last count – list below ) including some of the web’s largest streaming platforms. FMovies, for example, has thousands of videos and tens of millions of monthly visitors, but that’s just one source out of dozens.

CloudStream-3 has been in development on Github under the username ‘ LagradOst ‘ for some time but yesterday the coding platform received a copyright infringment complaint. As a result, the CloudStream-3 repo was suspended and with it the main download link for the application’s APK file.

The DMCA takedown notice was sent by Kopjra S.R.L. , a company specializing in online investigations and OSINT. Among its customers are Italian media giant Mediaset and broadcaster Sky, with the copyright complaint sent on the latter’s behalf.

“We are writing in the name and on behalf of Sky UK Limited, the exclusive owner of distribution and exploitation rights of the Sky UK channels. This IPTV App (CloudStream 3) includes illegal and unauthorized Pay Tv Sky UK tv series: Riviera,” the notice reads.

The complaint includes a short tutorial on how to install and use CloudStream-3 to watch episode 1 of Riviera using the streaming source ‘Trailers.to’. At just five steps long from installation to viewing, the instructions show why these apps are so popular.

Why Disclaimers Mean Almost Nothing

Like many similar apps, CloudStream-3 comes with a disclaimer, noting that any legal issues should be taken up with the sites hosting the content, not the developers of the app.

“CloudStream 3 does not host any content on the app, and has no control over what media is put up or taken down. CloudStream 3 functions like any other search engine, such as Google. CloudStream 3 does not host, upload or manage any videos, films or content. It simply crawls, aggregates and displays links in a convenient, user-friendly interface,” the disclaimer reads.

“It merely scrapes 3rd-party websites that are publicly accessible via any regular web browser. It is the responsibility of the user to avoid any actions that might violate the laws governing his/her locality. Use CloudStream 3 at your own risk.”

Whether Sky’s anti-piracy agent read this advice is unknown, but the reality is they can do whatever they like within the law to protect their rights. Sending a DMCA notice is just one of the options and certainly the easiest.

The TV episode in question can be found in less than five steps using a search engine but the overall packaging makes the app a prime target and the list of indexed sites only underlines that. The developer/s could try their luck with a DMCA counternotice but given the circumstances, that’s not exactly advisable.

Sky has been paying attention to Github in recent months having previously taken down CucoTV . At the moment the CloudStream-2 repo is untouched but it seems unlikely the project will try to make Github its home in future.

CloudStream-3 sources (recent list):

Akwam- -AllAnime- -AllMoviesForYou- -AnimeFlick- -AnimePahe- -AnimeWorld- -Animeflv.net- -Animekisa- -AsianLoad- -AsiaFlix- -Bflix- -Fmovies.to- -Sflix.pro- -Cinecalidad- -Cuevana- -DoramasYT- -DramaSee- -DubbedAnime- -EgyBest- -EntrePeliculasySeries- -filman.cc- -French Stream- -GogoAnime- -Kawaiifu- -HD Movies- -I Have No TV- -KDramaHood- -LookMovie- -MeloMovie- -Monoschinos- -MyCima- -9Anime- -PeliSmart- -Pelisflix- -PelisplusHD- -Pelisplus- -Pinoy-HD- -Pinoy Moviepedia- -Pinoy Movies- -Sflix.to- -Dopebox- -Solarmovie- -Seriesflix- -Soap2Day- -Tenshi.moe- -Trailers.to- -TheFlix.to- -2Embed- -VMovee- -vf-film.me- -vf-serie.org- -VidEmbed- -WatchAsian- -WatchCartoonOnline- -WCO Stream- -Zoro

From: TF , for the latest news on copyright battles, piracy and more.