RAMP a AI: Lekcie z budovania produktov s využitím umelej inteligencie
RAMP, finančná platforma, sa zameriava na šetrenie času a peňazí pomocou AI. Prešli od fragmentovaných agentov k jednotnému rámcu s jedným agentom a smerujú k autonómnym systémom. Kľúčové je kvalitné označovanie dát, jednoduché hodnotenie a spätná väzba od používateľov.
V tomto článku sa pozrieme na zaujímavé poznatky spoločnosti RAMP, finančnej platformy pre moderné firmy, o ich ceste pri budovaní nových produktov s využitím AI. Rozhovor s Nikom Koblovom (EVP Engineering), Veeralom Patelom (Director, Applied AI and Spend), Willom Kohom (Staff Engineer, Applied AI) a Ianom Traceym (Staff Software Engineer) zaznamenaný na Summite Pragmatikov prináša cenné informácie o tom, ako sa vyhnúť bežným chybám a dosiahnuť úspech v oblasti umelej inteligencie. RAMP, s vyše 50 000 zákazníkmi, sa zameriava na šetrenie času a peňazí, a ich cesta k AI je plná zaujímavých zvratov a poučení.
Prechod od Viacerých Agentov k Jednému Rámcu
Počiatočné experimenty spoločnosti RAMP s AI sa zameriavali na rôzne úlohy ako normalizácia obchodníkov a písanie poznámok. Každý tím si vytváral vlastných agentov, čo viedlo k fragmentácii a neefektívnosti. Zásadný prelom nastal po 6. februári, keď sa spoločnosť rozhodla pre jednotný rámec s jedným agentom, ktorý disponuje množstvom zručností. Tento posun odráža pochopenie potreby centralizácie a štandardizácie v oblasti AI.
Paradigma Zmeny: Od Softvéru k Autonómnym Systémom
Tradičný softvér sa riadi udalosťami, promptmi, pravidlami (politikami) a nástrojmi. Nová éra AI však prináša paradigmu autonómnych systémov, ktoré reagujú, uvažujú a konajú s minimálnou ľudskou intervenciou. RAMP to dosahuje prostredníctvom „OmniHat“ – jednotného komunikačného rozhrania pre celý produkt.
Agent Framework a Playbooky: Rýchla Výstavba a Deterministické Pracovné Postupy
Rýchle budovanie agentov je umožnené ľahkým interným rámcom, ktorý umožňuje orchestráciu nástrojov. „Playbooky“ popisujú požadované pracovné postupy (napríklad onboardovanie nového zamestnanca), ktoré sa premenia na spustiteľné a deterministické pracovné postupy pre agentov.
Policy Agent: Uvažovanie o Potvrdeniach Výdavkov
Jeden z najzaujímavejších príkladov je „Policy Agent“, ktorý uvažuje o potvrdeniach výdavkov a transakčných údajoch na základe firemných pravidiel. Používa anglické jazykové politiky ako pravidlá, čo umožňuje flexibilitu a prispôsobenie.
Dôležitosť Kvalitných Údajov a Označovania
Tím RAMP zistil, že používatelia často robia chyby, preto si definovali vlastnú predstavu o „správnosti“ prostredníctvom týždenných označovacích stretnutí. Vytvorili si interný nástroj Streamlit pre efektívne označovanie dát.
Hodnotenie a Iterácia: Dôležitosť Jednoduchých Výsledkov
Dôvera v AI systémy sa buduje prostredníctvom hodnotenia, ktoré je ľahko pochopiteľné a integrované do CI/CD pipeline. To umožňuje zachytiť neúmyselné dôsledky skôr, ako sa dostanú do produkcie.
Online Hodnotenie a Aktualizácie Modelov
Online hodnotenie (meranie rozhodnutí a neurčitosti) je rovnako dôležité ako offline testovanie. Aktualizácie modelov by mali byť jednoduché – napríklad zmena konfigurácie pre GPT-5.3 na Opus.
Budovanie Dôvery v Policy Agenta: Postupný Prechod k Autonómii
Nasadenie Policy Agenta začalo s „namiestami návrhov“ a postupne sa presunulo k automatickým schvaľovaniam, keďže rástla dôvera.
Spätná Väzba od Používateľov a Personalizácia
Spätná väzba od používateľov priamo v aplikácii je neoceniteľná pre zlepšovanie politík výdavkov a správania agenta, čo vedie k personalizácii a pocitu vlastníctva.
AI Infraštruktúra RAMP: Applied AI Surface Service
Jadrom AI infraštruktúry RAMP je LM proxy s rozšíreniami pre štruktúrovaný výstup/API, dávkové spracovanie/pracovné postupy a sledovanie nákladov medzi tímami.
Katalóg Nástrojov a Agentný Vývoj
Katalóg stoviek interných nástrojov umožňuje rýchly vývoj agentov a prototypovanie, podporujúc spoluprácu medzi rôznymi oddeleniami (napríklad dizajn, produkt).
Ramp Inspect: Background Coding Agent
Ramp vyvinul interného background coding agenta („Ramp Inspect“), ktorý spracováva vyše 50 % zlúčených PR. Tento projekt bol dokonca open-source a využíva multiplayer funkcie pre kolaboratívne zlepšovanie kódu.
Zmena v Pozícii Inžinierov: Od Kódovania k Vysoko Hodnotným Úlohám
AI nástroje posunú pozíciu inžinierov od nízkoúrovňového kódovania k vysoko hodnotným úlohám, ako je porozumenie používateľom, presadzovanie nápadov a udržiavanie tempa. To si vyžaduje nové zručnosti.
Kľúčové Zistenia
- Prechod k Jednotnému Rámcu: Prestaňte podporovať jednotlivé tímy v budovaní agentov, centralizujte a štandardizujte.
- Autonómne systémy: Zamerajte sa na vytváranie systémov, ktoré uvažujú a konajú samostatne.
- Kvalitné Údaje: Investujte do označovania dát a definujte si vlastnú predstavu o správnosti.
- Jednoduché hodnotenie: Uistite sa, že hodnotenie je ľahko pochopiteľné a integrované do CI/CD pipeline.
- Spätná väzba od používateľov: Využite spätnú väzbu od používateľov na zlepšovanie AI systémov.
Odporúčania a Reflexie
Cesta RAMP k AI je cennou lekciou pre všetky spoločnosti, ktoré sa snažia využiť potenciál umelej inteligencie. Dôležité je pochopiť, že budovanie autonómnych systémov si vyžaduje viac než len technické zručnosti – potrebuje aj silnú kultúru spolupráce, neustáleho učenia a adaptácie. Pre slovenské firmy môže byť kľúčové sledovať trendy v oblasti AI a prispôsobiť svoje stratégie tak, aby maximalizovali výhody tejto transformačnej technológie.
Zdroje
Približne 195 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.98 l vody za účelom vygenerovania tohoto článku.
Komentáre ()