• chevron_right

      Apple releases eight small AI language models aimed at on-device use

      news.movim.eu / ArsTechnica · 20:55

    An illustration of a robot hand tossing an apple to a human hand.

    Enlarge (credit: Getty Images)

    In the world of AI, what might be called "small language models" have been growing in popularity recently because they can be run on a local device instead of requiring data center-grade computers in the cloud. On Wednesday, Apple introduced a set of tiny source-available AI language models called OpenELM that are small enough to run directly on a smartphone. They're mostly proof-of-concept research models for now, but they could form the basis of future on-device AI offerings from Apple.

    Apple's new AI models, collectively named OpenELM for "Open-source Efficient Language Models," are currently available on the Hugging Face under an Apple Sample Code License . Since there are some restrictions in the license, it may not fit the commonly accepted definition of "open source," but the source code for OpenELM is available.

    On Tuesday, we covered Microsoft's Phi-3 models , which aim to achieve something similar: a useful level of language understanding and processing performance in small AI models that can run locally. Phi-3-mini features 3.8 billion parameters, but some of Apple's OpenELM models are much smaller, ranging from 270 million to 3 billion parameters in eight distinct models.

    Read 7 remaining paragraphs | Comments

    • chevron_right

      AirPods Pro 2 : les meilleurs écouteurs d’Apple passent enfin sous les 200 €

      news.movim.eu / Numerama · 09:41

    [Deal du Jour] Les excellents écouteurs d’Apple sont souvent en promotion, mais descendent rarement sous les 200 €. À ce prix, difficile de ne pas conseiller les AirPods Pro 2.

    • chevron_right

      OpenELM – Apple sort ses modèles IA légers et open-source

      news.movim.eu / Korben · 08:19 · 2 minutes

    Vous connaissez OpenELM ? Non, normal, ça vient de sortir. Et c’est une famille de modèles IA open-source made in Apple conçus pour tourner directement sur vos appareils, sans passer par le cloud. En gros, c’est de l’IA maison dans nos iPhone, iPad et Mac…etc.

    OpenELM combine plusieurs modèles de langage naturel (LLMs) utilisant des algorithmes évolutionnistes qui exploitent les principes techniques suivants :

    1. Layer-wise scaling strategy : Cette stratégie consiste à allouer les paramètres dans les couches d’un modèle transformeur pour améliorer l’exactitude. Les modèles sont pré-alourés avec un budget de paramètres de 270 millions, 450 millions, 1,1 milliard et 3 milliards.
    2. Pré-entraînement : Les modèles ont été pré-entraînés à l’aide d’une combinaison de datasets, incluant une sous-ensemble de Dolma v1.6, RefinedWeb, deduplicated PILE et une sous-ensemble de RedPajama. Ce dataset contient environ 1,8 trillion de tokens.
    3. Evolutionary algorithms : Les algorithmes évolutionnistes sont utilisés pour combiner les modèles LLM et améliorer l’exactitude. Cela permet d’exploiter les forces combinées des modèles pré-alourés et d’améliorer leur précision.

    Alors évidemment, Apple arrive un peu après la bataille dans l’IA, pendant que Microsoft et Google déboulent à fond la caisse. Mais bon, mieux vaut tard que jamais, et puis ils compensent avec du lourd , soit 8 modèles OpenELM au total , dont 4 pré-entraînés avec CoreNet et 4 fine-tunés. Et avec leur stratégie de scaling par couche ça optimise à fond l’allocation des paramètres.

    Allez, je traduits… En gros, ça veut dire qu’ils sont hyper efficaces et précis. Prenez le modèle à 1 milliard de paramètres et bien bah il explose un modèle équivalent comme OLMo de 2,36% en précision, avec 2 fois moins de tokens en pré-entraînement. Et ce qui est top, c’est qu’Apple balance tout : code, logs d’entraînement, configuration…etc et pas juste le modèle final. Et vu qu’ils utilisent des datasets publics, c’est top en matière de transparence et vérification des biais.

    En tout cas, une chose est sûre, avec OpenELM , Apple nous prouve qu’ils sont dans la course, et qu’ils comptent bien mettre le paquet sur l’IA

    Et Merci à Letsar pour l’info, c’est lui qui m’a mis la puce à l’oreille sur OpenELM. Tu gères !

    Source

    • chevron_right

      Apple publie OpenELM, le modèle de langage open source que personne n’attendait

      news.movim.eu / Numerama · Yesterday - 15:29

    Décliné en quatre versions, le modèle de langage OpenELM est la première approche open source d'Apple sur le terrain de l'intelligence artificielle générative. La marque, habituée au secret, va-t-elle aborder une stratégie différente face à OpenAI ?

    • chevron_right

      Apple arrête la production du Vision Pro, les ventes s’effondrent

      news.movim.eu / JournalDuGeek · Yesterday - 12:58

    Apple Vision Pro Lifestyle Working

    Apple vient de stopper la production de son Vision Pro, les ventes ne suivent plus et Apple doit revoir ses plans.
    • chevron_right

      Il faut se méfier des chiffres sur le « flop » de l’Apple Vision Pro

      news.movim.eu / Numerama · Yesterday - 12:27

    L'analyste Ming-Chi Kuo rapporte qu'Apple aurait divisé par deux la production du casque Vision Pro, à cause d'une demande en chute libre. Neil Cybart, spécialiste dans l'analyse des chiffres de la marque américaine, indique qu'il ne faut pas croire ces prédictions.

    • chevron_right

      iPadOS 18 could ship with built-in Calculator app, after 14 Calculator-less years

      news.movim.eu / ArsTechnica · 2 days ago - 20:17

    iPadOS 18 could ship with built-in Calculator app, after 14 Calculator-less years

    Enlarge (credit: Apple/Andrew Cunningham)

    Last year, Apple introduced the ability to set multiple timers at once in the Clock app on its various platforms.

    “We truly live in an age of wonders,” deadpanned Apple’s Craig Federighi in the company’s official presentation , tacitly acknowledging the gap between the apparent simplicity of the feature and the amount of time that Apple took to implement it.

    The next version of iPadOS may contain another of these "age of wonders" features, an apparently simple thing that Apple has chosen never to do for reasons that the company can't or won't explain. According to MacRumors , iPadOS 18 may finally be the update that brings a version of Apple's first-party Calculator app to the iPad.

    Read 5 remaining paragraphs | Comments