Meta и Apple: мощен отворен AI модел вече работи локално на два Mac компютъра

Meta пусна Muse Spark Open – AI модел с отворени тегла, който компанията определя като най-способния американски модел от този тип. Необичайното в новината е партньорството с Apple: двете компании са оптимизирали модела така, че да работи локално на компютри Mac Studio, без да изпраща данни към облака.

Какво представлява Muse Spark Open

• Голям, но ефективен модел. Той има 816 милиарда параметъра, но при всяка заявка се активират около 42 милиарда. Така е по-бърз и по-евтин за работа, отколкото подсказва размерът му.
• Контекст от 1 милион токена. Може да обработва наведнъж големи обеми код или документация.
• Фокус върху програмиране и агентни задачи. Според Meta моделът се справя добре с дълги, многостъпкови задачи и сложни софтуерни проекти.
• Широка достъпност. Теглата могат да се изтеглят от Hugging Face. Моделът е наличен и в Amazon SageMaker AI, Google Cloud Model Garden и Microsoft Foundry, както и през API на доставчици като Together AI, Fireworks AI, Groq и OpenRouter.

Моделът се разпространява под собствен лиценз на Meta, който позволява търговска употреба с ограничения. Преди да го използвате в бизнеса, прегледайте условията.

Каква е ролята на Apple

Apple е помогнала моделът да работи по-бързо на нейния хардуер чрез MLX – отворена технология, създадена за процесорите Apple silicon. MLX позволява няколко свързани Mac компютъра да работят като една система. Според Meta два Mac Studio с чип M5 Ultra могат да поберат целия модел. Това не е евтино решение: един Mac Studio с M5 Ultra струва от 5499 долара.

Какво означава това за маркетолозите

• Поверителност на данните. Локалният AI позволява да анализирате клиентски бази, CRM данни или вътрешни документи, без те да напускат компанията. Това е важно за агенции и екипи, които работят с чувствителни данни и трябва да спазват GDPR.
• Повече избор и по-ниски цени. Силните отворени модели засилват конкуренцията с платените облачни услуги. В дългосрочен план това означава по-евтин достъп до AI за всички.
• Не е задължително да купувате хардуер. За повечето маркетинг екипи по-практичният път е да тестват модела през облачните платформи или API доставчиците и да преценят дали си струва инвестицията в собствена инфраструктура.

Източници: 9to5Mac, TweakTown, Business Today