Изкуствен интелект без облак: Opera пуска локален AI направо в браузъра

На 27 октомври Opera пусна в ранен преглед WebAI – функция, която позволява на сайтове и разширения да използват AI модели, работещи локално на компютъра на потребителя. Текстът, който се обработва, остава на устройството и не се изпраща към облачен AI доставчик.

Какво представлява WebAI

WebAI е предложение за уеб стандарт, зад което според Opera стоят и Google и Microsoft. Функцията не е обвързана с един модел: тя работи с модели с отворени тегла през собствения двигател на браузъра (в мениджъра на модели се виждат моделите Gemma на Google), както и със съвместими модели, които вече са на устройството.

За разработчиците има три основни интерфейса:

• Prompt API – генерира текст;
• Decision API – класифицира информация;
• Semantic Embeddings API – открива връзки между отделни части съдържание.

Не са нужни отделно AI приложение, локален сървър или API ключ. За разработчиците това означава и липса на разход за всяка заявка към облачен модел.

Как да го включите

1. Изтеглете или обновете Opera One.
2. Отворете Настройки → Opera AI (или opera://settings/ai) и включете „Enable Web AI API“. Браузърът ще изтегли локален модел, което може да отнеме няколко минути.
3. Инсталирайте някое от примерните разширения на Opera и го отворете от менюто с разширения.
4. Отворете статия или друга страница и изпробвайте разширението.

Функцията е по избор: нищо не се изтегля, преди да я включите, и може да се изключи по всяко време. Поддържа се на 64-битови компютри с Windows (Intel/AMD) и на Mac с Apple чип. Не работи на Mac с Intel, на Linux и на Windows за ARM. Скоростта зависи от мощността на компютъра, а Opera уточнява, че производителността още се подобрява. Освен в Opera One функцията е налична и в Opera GX и Opera Neon.

Opera е пуснала шест експериментални разширения като примери. Едно от тях, RecordIn Alchemy, преобразува статия в публикация за социални мрежи, а Project Lens оценява абзаците на статия според това колко са свързани с вашия проект. Не сме тествали тези разширения.

Какво означава това за маркетолозите

• Поверителност като аргумент. Когато работите с брифове, чернови или вътрешни документи, локалният модел намалява риска информацията да излезе извън компютъра. Преди да обработвате клиентски данни, все пак проверете политиките на компанията си.
• По-достъпни AI функции в сайтовете. Без разход за всяка заявка към облака функции като обобщение, категоризиране или препоръки стават по-достъпни и за по-малки сайтове и онлайн магазини.
• Реалистични очаквания. Локалните модели обикновено са по-малки от облачните и зависят от хардуера. Подходящи са за кратки задачи като обобщение или класификация, а не за цялостна работа по кампания.
• Следете стандарта. Ако WebAI бъде приет и от други браузъри, AI функциите на страницата ще могат да работят без облачни услуги при много повече потребители.

Ако тепърва навлизате в темата, започнете със статията ни Какво е изкуствен интелект и как да го използваме, а за практическа работа с AI инструменти вижте обученията по изкуствен интелект на Advance Academy.

Често задавани въпроси

Какво е Opera WebAI?

WebAI е функция в браузърите на Opera, която позволява на сайтове и разширения да използват AI модел, работещ на вашия компютър. Съдържанието се обработва локално и не се изпраща към облачен AI доставчик.

На кои компютри работи локалният AI в Opera?

На 64-битови компютри с Windows и процесор Intel или AMD и на Mac с Apple чип. Mac с Intel, Linux и Windows за ARM засега не се поддържат.

Как да започна да уча изкуствен интелект от нулата?

Започнете с основите: какво представляват езиковите модели и какво могат и не могат да правят. След това изберете една практическа задача от работата си и я пробвайте с достъпен инструмент. Решения като WebAI са удобни за първи експерименти, защото не изискват отделно приложение или API ключ.

Източници: Opera Blog, Opera Press, iClarified, DigitalToday