Integrare OpenAI pe site-ul firmei: cum funcționează, cât costă și când nu merită

Un distribuitor de piese auto primește 60-80 de mesaje pe zi, toate variații ale aceleiași întrebări: „aveți piesa X pentru modelul Y, anul Z?”. Doi oameni răspund la ele. Amândoi caută în același ERP, copiază același răspuns, adaugă același „vă rog confirmați VIN-ul”.

O clinică primește 30 de mesaje pe zi, dintre care 25 sunt „vreau programare”. Un magazin online de nișă primește patru mesaje pe zi. Patru.

Toate trei aud aceeași recomandare — „pune un chatbot cu ChatGPT pe site”. Pentru primul, integrarea se amortizează în două luni. Pentru al doilea, e utilă doar dacă chatbot-ul poate să facă efectiv programarea, nu doar să vorbească despre ea. Pentru al treilea, sunt bani aruncați, iar cine îi vinde proiectul o știe.

Articolul ăsta explică ce înseamnă concret o integrare OpenAI pe site-ul unei firme: ce se construiește de fapt, cum arată structura de costuri (care nu e cea la care te aștepți), unde se strică proiectele astea și ce trebuie să faci pentru GDPR dacă ești firmă din România. Plus partea pe care majoritatea agențiilor o sar: când să nu o faci.

Răspuns scurt

„Integrare OpenAI” nu e un lucru, sunt trei. În ordinea complexității: (1) un chatbot care răspunde pe baza unui prompt scris de tine, (2) un chatbot care caută în documentele firmei tale înainte să răspundă — asta se numește RAG, (3) un chatbot care execută acțiuni reale în sistemele tale — verifică stoc, face rezervarea, deschide tichet. Se numește function calling și e singurul nivel care schimbă cu adevărat cifrele unei firme.

Costul dominant nu e OpenAI, e dezvoltarea. Consumul de tokeni pentru o firmă mică e, în practică, undeva între „câțiva dolari” și „câteva zeci de dolari” pe lună. Implementarea corectă e un proiect de zile sau săptămâni de development — de departe partea grea a bugetului în primul an.

Riscul principal nu e tehnic, e de conținut. Un model care nu are acces la informația ta reală va inventa răspunsuri plauzibile. Nu e un bug pe care îl repari cu un patch — e o consecință a felului în care funcționează un LLM, și se controlează prin arhitectură (RAG, validări, refuz explicit), nu prin „mai multe instrucțiuni în prompt”.

Dacă ai sub ~50 de conversații pe lună, nu integra nimic. Scrie un FAQ bun și un formular care funcționează. Serios.

Ce se construiește de fapt

Când cineva zice „integrare ChatGPT pe site”, 90% din oameni își imaginează un widget în colțul din dreapta jos. Widget-ul e partea vizibilă și cea mai ieftină. Sub el sunt patru piese, iar de ele depinde dacă lucrul funcționează sau doar arată bine.

1. Apelul server-side

Site-ul tău nu vorbește direct cu OpenAI din browser. Cheia API stă pe server, într-o variabilă de mediu, iar browserul vorbește cu serverul tău, care la rândul lui apelează api.openai.com. E o regulă fără excepții: o cheie pusă în JavaScript-ul din pagină e vizibilă oricui apasă F12, cheile expuse sunt scanate automat de boți, iar consumul apare pe factura ta.

E și prima verificare pe care o faci la orice ofertă de integrare — întreabă unde stă cheia. Dacă răspunsul nu e „pe server”, oprește discuția.

2. Streaming

Un model generează răspunsul token cu token. Dacă aștepți răspunsul complet înainte să-l afișezi, utilizatorul se uită la un ecran blocat câteva secunde bune — ceea ce, pe mobil, înseamnă că a plecat deja. Cu stream: true, textul apare pe măsură ce se generează, ca în ChatGPT. Nu e cosmetic: e diferența dintre o conversație începută și una abandonată.

3. RAG — sau cum îl faci să știe ce vinzi

Un model general nu știe nimic despre firma ta — nici prețurile, nici programul, nici condițiile de garanție. Dacă îl întrebi, îți va da un răspuns care sună corect și e greșit.

Soluția standard se numește RAG (retrieval-augmented generation) și funcționează în trei pași:

1. Indexare. Îți iei conținutul existent — pagini de site, fișe de produs, FAQ, manuale, condiții comerciale — și îl tai în bucăți de câteva sute de cuvinte. Fiecare bucată devine un vector numeric (embedding) stocat într-o bază de date vectorială.
2. Căutare. Când vine o întrebare, o transformi și pe ea în vector și scoți cele mai apropiate 4-6 bucăți din conținutul tău.
3. Generare. Bagi bucățile alea în promptul trimis modelului, cu instrucțiunea „răspunde folosind exclusiv contextul de mai jos; dacă nu găsești răspunsul acolo, spune că nu știi”.

Pasul 3, în special ultima propoziție, e diferența dintre un chatbot util și unul care inventează. Un model căruia i se dă voie să răspundă „nu am informația asta, vă pun în legătură cu un coleg” e mult mai valoros decât unul care ghicește.

Nu ai nevoie de un serviciu scump pentru baza vectorială: dacă site-ul are deja Postgres, extensia pgvector face treaba fără cost lunar suplimentar. Serviciile dedicate (Pinecone, Qdrant Cloud) au sens la volume mari.

4. Function calling — partea care contează

Aici se separă jucăria de unealtă.

Îi descrii modelului ce funcții are la dispoziție în sistemul tău: verifica_stoc(cod_produs), creeaza_programare(data, ora, serviciu), status_comanda(numar_awb). Modelul, citind întrebarea, decide singur că trebuie apelată una dintre ele și îți trimite argumentele; tu execuți funcția pe serverul tău și îi dai rezultatul înapoi. Abia apoi formulează răspunsul.

Diferența practică: fără function calling, chatbot-ul distribuitorului de piese auto spune „vă rog contactați-ne pentru disponibilitate”. Cu function calling, spune „da, avem 3 bucăți în stoc, livrare mâine, vreți să pregătesc comanda?”.

O regulă de securitate care nu se negociază: validezi server-side fiecare apel de funcție. Modelul poate fi convins, prin formulări abile, să ceară acțiuni pe care nu ar trebui să le poată cere. Serverul tău decide dacă acțiunea e permisă pentru sesiunea curentă — nu modelul.

Dacă vrei arhitectura completă și pachetele de implementare, e detaliată pe pagina de integrare OpenAI / ChatGPT pe site. Pentru varianta orientată pe suport client, vezi chatbot AI; pentru cea în care sistemul execută procese întregi fără UI de chat, vezi agent AI.

Cât costă, de fapt

Există două bugete complet diferite și oamenii le confundă permanent.

Bugetul A: consumul OpenAI (mic, variabil)

Plătești per token — atât pentru textul trimis (input), cât și pentru cel generat (output). Prețul diferă de la model la model, iar diferența între modelul „mic” și cel „mare” din aceeași generație e de ordinul zecilor de ori.

Nu îți dau cifre exacte aici: OpenAI ajustează prețurile și lansează modele noi de câteva ori pe an, iar un preț greșit citat într-un articol face mai mult rău decât bine. Verifică pe pagina oficială de pricing OpenAI înainte de orice calcul.

Structura te ajută însă mai mult decât o cifră. Costul lunar depinde de trei lucruri, în ordinea impactului:

• Câți tokeni de input trimiți per mesaj. Aici e capcana: cu RAG, la fiecare întrebare trimiți și 4-6 bucăți de context. Un context prea generos multiplică costul fără să îmbunătățească răspunsul. Un context bine selectat e mai ieftin și mai precis.
• Ce model folosești. Modelul mic din generația curentă e suficient pentru majoritatea cazurilor de suport și calificare lead-uri. Modelul mare are sens la documente complexe sau la generare de text lung.
• Câte conversații ai efectiv. Câteva sute de conversații pe lună rămân, la modelele mici, în zona de „costă mai puțin decât hostingul”.

Două optimizări care taie serios factura: cache pentru întrebările frecvente (dacă jumătate din întrebări sunt aceleași cinci, nu ai nevoie de un apel API pentru fiecare) și limitarea numărului de mesaje pe sesiune, care e și o măsură anti-abuz.

Bugetul B: dezvoltarea (mare, one-time)

Aici stau banii. Un chatbot simplu, fără RAG, e un proiect de câteva zile. Unul cu RAG pe conținutul firmei e un proiect de una-două săptămâni, din care jumătate e curățenie de conținut, nu cod. Unul cu function calling pe două-patru sisteme interne poate ajunge la trei săptămâni, în funcție de cât de prietenoase sunt API-urile tale.

Raportul e cel care surprinde: în primul an, implementarea reprezintă în mod tipic covârșitoarea majoritate a costului total. E exact invers față de intuiția „AI-ul e scump”. AI-ul e ieftin. Integrarea lui corectă nu e.

O consecință practică: nu alege furnizorul după cine îți promite cel mai mic consum de tokeni, ci după cine îți arată cum arată logging-ul, rate limiting-ul și ce se întâmplă când modelul nu știe răspunsul.

Unde se strică

Problemele care apar cel mai des la integrările făcute în grabă. Niciuna nu e exotică.

Cheia în frontend. Deja discutată. E cea mai frecventă și cea mai scumpă.

Zero rate limiting. Fără limite pe sesiune și pe IP, un singur utilizator răuvoitor (sau un bot) poate genera mii de cereri într-o noapte. Îți trebuie și un plafon global de cost, cu alertă pe email când îl atingi.

Prompt fără ancoră. „Ești asistentul firmei X, fii amabil” nu e un prompt, e o urare. Fără RAG și fără instrucțiunea explicită de a refuza când nu știe, modelul completează golurile cu invenții plauzibile. Clientul citește o condiție de garanție care nu există la tine — și ți-o va cere.

Fără handover uman. Orice conversație trebuie să aibă o ieșire clară către un om: buton vizibil, escaladare automată la reclamație, retur, dispută sau client vizibil nemulțumit. Un chatbot care ține clientul prizonier într-o buclă e mai rău decât lipsa lui.

Fără logging. Dacă nu salvezi conversațiile, nu ai cum să afli ce întreabă oamenii de fapt și ce lipsește din documentația ta. Primele două săptămâni de log-uri sunt, de obicei, cel mai bun studiu de piață pe care îl faci gratis.

Livrare fără set de test. Înainte de go-live îți trebuie 50-100 de întrebări reale, cu răspunsurile corecte cunoscute, pe care rulezi chatbot-ul. Fără ele nu ai cum să spui dacă versiunea nouă a promptului e mai bună decât cea veche — și vei ajusta la ghici, lunar.

GDPR și datele: ce trebuie făcut dacă ești firmă din România

Nu e complicat, dar nu e nici opțional. Ce trimiți către OpenAI devine prelucrare de date cu caracter personal în momentul în care utilizatorul scrie un nume, un email sau un număr de comandă — și o va face, indiferent ce scrie în interfață.

Lista minimă:

• Folosește API-ul, nu contul consumer. Politicile pentru API sunt diferite de cele pentru ChatGPT-ul pe care îl folosești tu în browser. Verifică setările de retenție din contul de organizație și, dacă ai nevoie, cere zero data retention.
• Semnează DPA-ul (Data Processing Agreement) cu furnizorul. Se semnează electronic, durează 10 minute.
• Treci prelucrarea în registrul de evidență, cu scopul, categoriile de date și durata de stocare.
• Actualizează politica de confidențialitate ca să menționeze explicit furnizorul AI folosit pentru asistența pe site, transferul în afara SEE dacă e cazul, și temeiul legal.
• Anonimizează înainte de trimitere. CNP, IBAN, date medicale detaliate nu au ce căuta în promptul trimis către un API extern. Se filtrează automat, la nivel de backend.
• Stabilește o durată de retenție pentru conversațiile pe care le loghezi la tine și șterge-le automat după. 30-90 de zile acoperă nevoia de îmbunătățire fără să acumulezi risc.
• Consimțământ înainte de prima conversație, cu explicație scurtă și onestă.

Pentru domenii cu date cu adevărat sensibile — medical detaliat, juridic confidențial, date financiare identificabile — răspunsul corect nu e „OpenAI cu mai multă grijă”, ci un model open-source rulat pe infrastructură proprie în UE. Costă mai mult de administrat, dar elimină întreaga discuție despre transfer.

Restul obligațiilor generale sunt tratate separat în ghidul de GDPR pentru website-uri de firmă.

Când NU merită

Partea pe care puțini o spun înainte să emită factura.

Sub 50 de conversații pe lună. Efortul de implementare, mentenanță și supraveghere nu se amortizează niciodată. Un FAQ scris bine, un formular scurt și un număr de telefon afișat vizibil rezolvă mai mult.

Nu ai conținut digital. RAG-ul are nevoie de ceva pe care să se ancoreze. Dacă informația despre produsele tale există doar în capul a doi oameni și într-un fișier Excel, primul proiect nu e chatbot-ul — e documentarea. Care îți folosește oricum, cu sau fără AI.

Procese cu reguli stricte, non-negociabile. Calcule de preț cu discount pe tranșe, validări fiscale, verificări de conformitate. Un LLM e probabilistic; nu îl pui să facă aritmetică pe care trebuie să o garantezi. Acolo pui reguli explicite, într-un workflow determinist — o parte din exemplele de automatizări pentru firmă descriu exact cazurile astea.

Vrei chatbot „ca să avem și noi AI”. Fără un KPI declarat înainte — câte tichete deflectate, câte programări automate, câte lead-uri calificate — nu ai cum să știi peste șase luni dacă a meritat.

Nu ai pe cineva care să se uite peste log-uri. Un chatbot nesupravegheat degradează. Nu se strică tehnic — se schimbă realitatea firmei (prețuri, produse, condiții) și conținutul indexat rămâne în urmă. E nevoie de o oră pe lună, dar de ea e nevoie.

Cum îți dai seama dacă a funcționat

Măsoară patru lucruri, de la început, nu după:

1. Rata de deflecție — procentul de conversații încheiate fără intervenție umană și fără ca utilizatorul să revină cu aceeași întrebare pe alt canal în 48 de ore. A doua condiție e cea care contează; fără ea, măsori doar cât de bine ai ascuns butonul de contact.
2. Rata de „nu știu” — cât de des refuză modelul să răspundă. Dacă e aproape zero, probabil inventează. Dacă e foarte mare, conținutul indexat e insuficient.
3. Acțiuni finalizate — programări făcute, comenzi verificate, oferte trimise. Singura metrică pe care o poate citi și contabilul.
4. Cost per conversație rezolvată — costul OpenAI lunar împărțit la conversațiile încheiate cu succes, comparat cu costul unei intervenții umane echivalente.

Întrebări frecvente

Pot să folosesc abonamentul meu ChatGPT Plus pentru site? Nu. Abonamentul e pentru uz personal în interfața web. Pentru site îți trebuie un cont de platformă API, cu cheie proprie și facturare pe consum. Sunt produse diferite, cu politici de date diferite.

Trebuie neapărat OpenAI, sau merge și altceva? Merge și altceva, iar arhitectura descrisă mai sus e aproape identică indiferent de furnizor. OpenAI e default-ul comun pentru documentație, ecosistem și rezultate solide pe limba română, dar alte modele mari sunt competitive, iar pentru cerințe stricte de suveranitate a datelor există varianta self-hosted. Important e ca schimbarea furnizorului să însemne modificarea unui strat, nu rescrierea aplicației.

Cât de bine se descurcă pe limba română? Bine, la modelele actuale. Ce rămâne de calibrat e tonul — plural/singular, formal/relaxat — și terminologia ta specifică, ambele rezolvate din system prompt și din setul de test.

Cine e responsabil dacă chatbot-ul spune ceva greșit unui client? Tu, firma. Din perspectiva clientului, ce spune widget-ul de pe site-ul tău spui tu. De aceea contează atât de mult ancorarea în documente reale, refuzul explicit când nu știe și escaladarea către om pe subiecte sensibile — prețuri negociabile, garanții, reclamații.

Pot începe mic și extinde ulterior? Da, și e recomandarea implicită. Chatbot simplu → adaugi RAG după ce știi din log-uri ce întreabă lumea → adaugi function calling doar pe acțiunile care apar cel mai des. Ordinea asta te scutește de a construi integrări cu sisteme pe care nimeni nu le cere.

Decizia în 30 de secunde

• Sub 50 de conversații pe lună → nu integra nimic. FAQ + formular.
• Volum real, întrebări repetitive, documentație existentă → chatbot cu RAG. Cel mai bun raport efort/rezultat.
• Volum real + un proces clar de automatizat (programări, stoc, status comandă) → RAG + function calling. Aici sunt banii.
• Date sensibile, reglementate → model self-hosted în UE, nu API extern.
• Reguli stricte, calcule care trebuie garantate → workflow determinist, nu LLM.

Chatbot-ul e, oricum, doar unul dintre fluxurile în care AI-ul chiar produce ceva măsurabil într-o firmă mică. Restul — draft automat la email, scoring de lead-uri, facturare, sumar de call-uri — sunt în articolul despre 7 automatizări AI pentru firme mici, cu costuri și timp de implementare.

Dacă ești în una dintre situațiile în care integrarea chiar are sens și vrei să vezi cum arată concret pentru firma ta — ce se indexează, ce funcții se expun, ce costă — detaliile despre pachete și livrabile sunt pe pagina de integrare OpenAI ChatGPT pe site.

---

Costurile din acest articol sunt descrise ca structură, nu ca sume fixe — prețurile modelelor OpenAI se schimbă de câteva ori pe an și trebuie verificate pe pagina oficială de pricing înainte de orice estimare. Articolul nu conține linkuri de afiliere.