Според Артуро Девеса, главен AI архитект и ръководител на отдела за иновации в EXL, се очаква специфичните за индустрията големи езикови модели (Large language models, или LLM) да стимулират иновациите, тъй като внедряването на изкуствения интелект продължава.
EXL, глобална фирма за анализи и дигитални решения, наскоро стартира първия си собствен LLM и първия си LLM специфичен за застрахователната индустрия.
„LLM-и за определени сфери или за определени компании: мисля, че това ще продължи да бъде фокусът върху иновациите в LLM. Разбира се, ще продължи да има иновации сред LLM-и с общо предназначение. Може би те ще бъдат комерсиализирани, но това все още ще бъде огромен бизнес. Но ние сме малко по-различни. Изграждаме нещо по-специфично“, казва Девеса.
Специалистите по застрахователно право в EXL са обучени за одит на застраховки „Живот“, искове при застраховки „Имущество и злополуки“, оценки на имоти при застраховки „Домашно имущество“ и прегледа на медицински досиета за здравно осигуряване. Компанията също работи по разширяването на тази експертиза в други сфери на застраховането.
Наскоро те пуснаха EXLerate.AI – платформа, използваща внимателно обучени езикови модели. Целта е да помогнат на предприятията да преосмислят своите работни процеси. Платформата позволява безпроблемна интеграция на EXL с инструменти с изкуствен интелект от други компании. Всичко това се вписва в съществуващите бизнес процеси на клиентите.
Девеса твърди, че търсенето на специфични за индустрията LLM програми непрекъснато нараства, тъй като все повече застрахователни компании се стремят да включат решения с изкуствен интелект, които могат да предложат по-добра точност, бързина и икономии на разходи отколкото общите инструменти с изкуствен интелект.
Какво е LLM?
Големият езиков модел е инструмент с изкуствен интелект, предназначен да обработва естествен език и да отговаря също на естествен език. Девеса е започнал кариерата си в обработката на естествения език. Той обяснява, че тези езикови модели са предварително обучени с „огромни количества данни“ от интернет. Оттам идва и името им „големи езикови модели“.
„Те предварително обучават модел, за да може да разбира цели думи в интернет, а след това обучават тези модели на специфични задачи като разсъждения, преобразуване на код, писане на код, обобщаване, въпроси и отговори, класификация, извличане на думи и т.н.“, казва той.
Процесът чрез който LLM-ите приемат информация в човешки формат и дават отговор е известен като генериране с добавено извличане (Retrieval-augmented generation, или RAG). Изкуственият интелект първо се рови в документ или база данни, за да извлече информация свързана с въпроса на потребителя, след което въвежда тези данни в езиков модел като контекст и накрая генерира отговор въз основа на това.
LLM-ите стават по-добри и „по-интелигентни“ с развитието си през годините. Но едва когато ChatGPT „завладя масовата публика“ през 2022 г., корпорациите започнаха да разглеждат LLM-ите като практични инструменти и как да ги използват със собствените си данни, отбелязва Девеса.
Компаниите обаче се сблъскват с три основни предизвикателства при LLM-ите с общо предназначение:
- Неточни отговори („халюцинации на изкуствения интелект“);
- Бавни отговори;
- Високи разходи.
Специфичните за дадена област LLM-и могат да помогнат за справяне с тези предизвикателства.
Защо застраховането се нуждае от собствен LLM?
Девеса обяснява, че индустрия като застраховането, която може да бъде сложна и да обхваща широк спектър от дисциплини, би могла да се възползва от LLM специално предназначен за нейните цели. Такъв модел не само помага за подобряване на точността и премахване на „халюцинациите“, но е и най-рентабилен и ефикасен, тъй като използва специфични за индустрията данни.
„Това е полезно за нашите клиенти, използващи специфичният за тях LLM, или дори за клиентите които искат да ни наемат за да им помогнем да изградят свой собствен LLM с техните собствени данни“, казва Девеса.
Девеса разказва как EXL са започнали с LLM с общо предназначение, след което са го усъвършенствали, използвайки специфични за индустрията данни и обучение на големи екипи от оператори, специалисти по данни и AI инженери в офисите им по целия свят.
„Теорията е, че фината настройка винаги ще превъзхожда RAG, защото вземате знанията за вашия случай на употреба (така наречения „use case“) и ги вграждате в LLM-а.
LLM-а никога не е виждал контекста. LLM-а никога не е виждал задачата. Следователно, той превъзхожда основния LLM защото вече не е предварително обучен модел“, казва Девеса.
Търсени са LLM модели, специфични за дадени сфери
Според Девеса, все по-голям брой клиенти търсят доставчици на AI решения като EXL за LLM-и, специфични за дадена индустрия. Той отбеляза, че въпреки разпространението на LLM-и с общо предназначение, никой от тях „няма да започне да наема армии от експерти по застрахователно дело и да изгражда потенциално стотици LLM-и за различни сфери“.
„В нашия случай вече изграждаме няколко от тях. Това е много предизвикателно и изисква експертиза в областта и специфична инфраструктура. За нас това е наистина важно. Това не е продукт за широко потребление. Клиентите започват да казват, че се интересуват повече от нашите LLM-и. Те искат LLM-и, специфични за дадена област – корпоративни LLM-и. Това означава, че искат да използват LLM-и със собствените си данни. Не искат да правят RAG с GPT-4.“, казвай той.
EXL Service е глобална компания за анализ на данни и дигитални решения, базирана в Ню Йорк. Основана през 1999 г., компанията разполага с екип от 1 500 специалисти по обработка на данни и работи в широк спектър от индустрии.
Често задавани въпроси
Какво представляват специфичните за индустрията LLM модели?
Отговор: Това са големи езикови модели, обучени със специализирани данни за конкретна сфера – например застраховане, здравеопазване или финанси. За разлика от универсалните модели, те разбират по-добре терминологията, процесите и регулациите в дадена индустрия, което води до по-точни и контекстуални отговори.
С какво LLM моделите на EXL се различават от стандартните AI решения?
Отговор: Моделите на EXL са обучени със застрахователни и корпоративни данни, а не само с обща интернет информация. Те са оптимизирани за конкретни процеси като обработка на искове, договори, медицински досиета и оценки, което намалява грешките и времето за изпълнение, както и разходите за внедряване.
Какви проблеми на общите LLM модели решават специализираните?
Отговор: Специализираните модели значително намаляват т.нар. „халюцинации“ на AI, осигуряват по-бързи отговори и по-висока точност, както и по-ефективна работа със специфични бази данни. Резултатите са по-надеждни и приложими в реална бизнес среда.
Какво е RAG и защо се използва?
Отговор: RAG означава „генериране с добавено извличане“. При този метод моделът първо търси информация в документи или бази данни и след това използва извлеченото като контекст за генериране на отговор, което подобрява релевантността. Този подход обаче не е толкова ефективен, колкото финото обучение със специфични данни.
Защо компаниите търсят корпоративни LLM модели?
Отговор: Компаниите искат AI, който работи със собствените им данни, като гарантира сигурност, поверителност и контрол върху информацията. Освен това моделите могат да бъдат адаптирани към вътрешните процеси, което дава по-добри резултати в сравнение с универсалните AI платформи.
Изтеглете приложението
Изтеглете приложението
Според Артуро Девеса, главен AI архитект и ръководител на отдела за иновации в EXL, се очаква специфичните за индустрията големи езикови модели (Large language models, или LLM) да стимулират иновациите, тъй като внедряването на изкуствения интелект продължава.
EXL, глобална фирма за анализи и дигитални решения, наскоро стартира първия си собствен LLM и първия си LLM специфичен за застрахователната индустрия.
„LLM-и за определени сфери или за определени компании: мисля, че това ще продължи да бъде фокусът върху иновациите в LLM. Разбира се, ще продължи да има иновации сред LLM-и с общо предназначение. Може би те ще бъдат комерсиализирани, но това все още ще бъде огромен бизнес. Но ние сме малко по-различни. Изграждаме нещо по-специфично“, казва Девеса.
Специалистите по застрахователно право в EXL са обучени за одит на застраховки „Живот“, искове при застраховки „Имущество и злополуки“, оценки на имоти при застраховки „Домашно имущество“ и прегледа на медицински досиета за здравно осигуряване. Компанията също работи по разширяването на тази експертиза в други сфери на застраховането.
Наскоро те пуснаха EXLerate.AI – платформа, използваща внимателно обучени езикови модели. Целта е да помогнат на предприятията да преосмислят своите работни процеси. Платформата позволява безпроблемна интеграция на EXL с инструменти с изкуствен интелект от други компании. Всичко това се вписва в съществуващите бизнес процеси на клиентите.
Девеса твърди, че търсенето на специфични за индустрията LLM програми непрекъснато нараства, тъй като все повече застрахователни компании се стремят да включат решения с изкуствен интелект, които могат да предложат по-добра точност, бързина и икономии на разходи отколкото общите инструменти с изкуствен интелект.
Какво е LLM?
Големият езиков модел е инструмент с изкуствен интелект, предназначен да обработва естествен език и да отговаря също на естествен език. Девеса е започнал кариерата си в обработката на естествения език. Той обяснява, че тези езикови модели са предварително обучени с „огромни количества данни“ от интернет. Оттам идва и името им „големи езикови модели“.
„Те предварително обучават модел, за да може да разбира цели думи в интернет, а след това обучават тези модели на специфични задачи като разсъждения, преобразуване на код, писане на код, обобщаване, въпроси и отговори, класификация, извличане на думи и т.н.“, казва той.
Процесът чрез който LLM-ите приемат информация в човешки формат и дават отговор е известен като генериране с добавено извличане (Retrieval-augmented generation, или RAG). Изкуственият интелект първо се рови в документ или база данни, за да извлече информация свързана с въпроса на потребителя, след което въвежда тези данни в езиков модел като контекст и накрая генерира отговор въз основа на това.
LLM-ите стават по-добри и „по-интелигентни“ с развитието си през годините. Но едва когато ChatGPT „завладя масовата публика“ през 2022 г., корпорациите започнаха да разглеждат LLM-ите като практични инструменти и как да ги използват със собствените си данни, отбелязва Девеса.
Компаниите обаче се сблъскват с три основни предизвикателства при LLM-ите с общо предназначение:
- Неточни отговори („халюцинации на изкуствения интелект“);
- Бавни отговори;
- Високи разходи.
Специфичните за дадена област LLM-и могат да помогнат за справяне с тези предизвикателства.
Защо застраховането се нуждае от собствен LLM?
Девеса обяснява, че индустрия като застраховането, която може да бъде сложна и да обхваща широк спектър от дисциплини, би могла да се възползва от LLM специално предназначен за нейните цели. Такъв модел не само помага за подобряване на точността и премахване на „халюцинациите“, но е и най-рентабилен и ефикасен, тъй като използва специфични за индустрията данни.
„Това е полезно за нашите клиенти, използващи специфичният за тях LLM, или дори за клиентите които искат да ни наемат за да им помогнем да изградят свой собствен LLM с техните собствени данни“, казва Девеса.
Девеса разказва как EXL са започнали с LLM с общо предназначение, след което са го усъвършенствали, използвайки специфични за индустрията данни и обучение на големи екипи от оператори, специалисти по данни и AI инженери в офисите им по целия свят.
„Теорията е, че фината настройка винаги ще превъзхожда RAG, защото вземате знанията за вашия случай на употреба (така наречения „use case“) и ги вграждате в LLM-а.
LLM-а никога не е виждал контекста. LLM-а никога не е виждал задачата. Следователно, той превъзхожда основния LLM защото вече не е предварително обучен модел“, казва Девеса.
Търсени са LLM модели, специфични за дадени сфери
Според Девеса, все по-голям брой клиенти търсят доставчици на AI решения като EXL за LLM-и, специфични за дадена индустрия. Той отбеляза, че въпреки разпространението на LLM-и с общо предназначение, никой от тях „няма да започне да наема армии от експерти по застрахователно дело и да изгражда потенциално стотици LLM-и за различни сфери“.
„В нашия случай вече изграждаме няколко от тях. Това е много предизвикателно и изисква експертиза в областта и специфична инфраструктура. За нас това е наистина важно. Това не е продукт за широко потребление. Клиентите започват да казват, че се интересуват повече от нашите LLM-и. Те искат LLM-и, специфични за дадена област – корпоративни LLM-и. Това означава, че искат да използват LLM-и със собствените си данни. Не искат да правят RAG с GPT-4.“, казвай той.
EXL Service е глобална компания за анализ на данни и дигитални решения, базирана в Ню Йорк. Основана през 1999 г., компанията разполага с екип от 1 500 специалисти по обработка на данни и работи в широк спектър от индустрии.
Често задавани въпроси
Какво представляват специфичните за индустрията LLM модели?
Отговор: Това са големи езикови модели, обучени със специализирани данни за конкретна сфера – например застраховане, здравеопазване или финанси. За разлика от универсалните модели, те разбират по-добре терминологията, процесите и регулациите в дадена индустрия, което води до по-точни и контекстуални отговори.
С какво LLM моделите на EXL се различават от стандартните AI решения?
Отговор: Моделите на EXL са обучени със застрахователни и корпоративни данни, а не само с обща интернет информация. Те са оптимизирани за конкретни процеси като обработка на искове, договори, медицински досиета и оценки, което намалява грешките и времето за изпълнение, както и разходите за внедряване.
Какви проблеми на общите LLM модели решават специализираните?
Отговор: Специализираните модели значително намаляват т.нар. „халюцинации“ на AI, осигуряват по-бързи отговори и по-висока точност, както и по-ефективна работа със специфични бази данни. Резултатите са по-надеждни и приложими в реална бизнес среда.
Какво е RAG и защо се използва?
Отговор: RAG означава „генериране с добавено извличане“. При този метод моделът първо търси информация в документи или бази данни и след това използва извлеченото като контекст за генериране на отговор, което подобрява релевантността. Този подход обаче не е толкова ефективен, колкото финото обучение със специфични данни.
Защо компаниите търсят корпоративни LLM модели?
Отговор: Компаниите искат AI, който работи със собствените им данни, като гарантира сигурност, поверителност и контрол върху информацията. Освен това моделите могат да бъдат адаптирани към вътрешните процеси, което дава по-добри резултати в сравнение с универсалните AI платформи.
