3,000명 파일럿에서 10만 명으로: BBVA의 생성형 AI 확장 사례 연구

생성형 AI 도입 사례는 대개 화려한 데모나 절약 시간 하나로 요약됩니다. 그러나 규제가 강한 글로벌 은행에서 실험을 실제 업무 방식으로 바꾸려면 모델 성능보다 더 많은 것이 필요합니다. 어떤 업무부터 시작할지, 민감한 데이터를 어디까지 다룰지, 현업이 만든 도구를 누가 검증할지, 사용량을 성과와 어떻게 구분할지를 함께 설계해야 합니다.

BBVA와 OpenAI가 공개한 자료에 따르면 BBVA의 ChatGPT Enterprise 도입은 2024년 약 3,000명 규모의 초기 배포에서 시작해 2026년 전 세계 10만 명 이상이 사용하는 단계로 확대됐습니다. 공개된 결과에는 배포 대상자의 주간 활성 사용률 70% 이상, 직원 1인당 주당 약 3시간 절약, 일부 업무 흐름에서 최대 80% 수준의 효율 개선이 포함됩니다.

이 수치만 보면 성공 공식은 “좋은 AI를 전 직원에게 제공한다”처럼 보입니다. 하지만 실제로 복제할 가치가 있는 부분은 라이선스 수가 아닙니다. 작은 파일럿에서 신뢰를 만들고, 현업이 사용 사례를 발굴하며, 리더와 통제 조직이 함께 확장 경로를 연 구조입니다.

사례를 읽기 전에: 공개 수치의 성격

이 글의 도입·활용 수치는 BBVA와 기술 공급사 OpenAI가 공개한 사례 자료에 기반합니다. 독립적인 무작위 실험이나 외부 감사 결과가 아니며, “시간 절약”에는 직원 자기보고가 포함되고 “최대 80%”는 선별된 업무 흐름의 결과입니다. 따라서 조직 전체의 재무 성과나 인과 효과로 확대 해석하지 않고, 도입 설계에서 무엇을 배울 수 있는지에 초점을 맞춥니다.

1. 전사 배포보다 먼저 ‘안전한 학습장’을 만들었다

BBVA는 2024년 여러 국가와 업무 영역의 직원 약 3,000명에게 ChatGPT Enterprise를 먼저 제공했습니다. 파일럿의 목적은 단순 사용량 확인이 아니라 실제 업무에서 생산성과 혁신 가능성을 검증하는 것이었습니다. 소비자용 도구를 각자 알아서 쓰게 두기보다 기업 환경 안에서 실험할 공통 경계를 만든 셈입니다.

5개월 뒤 BBVA는 배포 대상자의 83%가 도구를 업무 루틴에 포함했고 직원들이 약 3,000개의 맞춤형 GPT를 만들었다고 발표했습니다. 여기서 중요한 선행 지표는 “몇 번 로그인했는가”보다 현업 지식을 반복 가능한 업무 도구로 바꾸기 시작했는가입니다.

다른 조직이 복제할 때는 파일럿 집단을 AI에 관심 많은 사람만으로 구성하지 않는 편이 좋습니다. 법무, 운영, 고객지원, 재무, 기술처럼 입력 데이터와 실패 비용이 다른 직무를 섞어야 확장 전에 실제 통제 문제를 발견할 수 있습니다.

2. 중앙 AI팀이 모든 사용 사례를 만들지 않았다

대규모 조직에서 중앙팀이 모든 프롬프트와 GPT를 설계하면 현업 맥락이 빠지고 대기열이 길어집니다. BBVA는 각 부서의 직원이 맞춤형 GPT를 만들도록 열어두고, 동료의 도입을 돕는 AI 챔피언과 고급 사용자 ‘위저드’ 네트워크를 운영했습니다. 이들은 실습을 진행하고, 업무에 적용할 만한 사례를 찾고, 동료가 시행착오를 줄이도록 지원했습니다.

리더도 관찰자에 머물지 않았습니다. 공개 자료에 따르면 CEO와 회장을 포함한 고위 리더 250명이 별도 교육을 받았습니다. 리더가 직접 써보면 “AI를 도입하라”는 추상적 지시보다 승인, 데이터 접근, 평가 기준처럼 현장의 병목을 구체적으로 다룰 가능성이 커집니다.

BBVA의 2026년 인재 중심 도입 자료에는 멕시코와 스페인의 직원용 지식 도우미가 2,500개 이상의 문서를 기반으로 월 3만4천 건이 넘는 질의를 처리한다는 사례도 나옵니다. 이는 범용 채팅을 많이 쓰는 것보다 신뢰할 수 있는 내부 지식과 명확한 사용자 집단을 연결한 반복 업무가 확장에 유리하다는 신호입니다.

3. 2만 개의 GPT보다 중요한 것은 살아남은 업무 흐름이다

2025년 자료에는 직원들이 2만 개 이상의 맞춤형 GPT를 만들었고 그중 약 4,000개가 빈번히 사용됐다는 수치가 나옵니다. 이를 단순 성공률로 계산할 수는 없습니다. 일부 GPT는 개인용이고, 중복되거나 단기 실험일 수 있으며, ‘빈번히 사용’의 기준도 공개 자료만으로는 알 수 없습니다.

그래도 한 가지 운영 원칙은 분명합니다. 아이디어 생성을 넓게 허용하되, 표준 도구로 승격하는 문은 좁아야 합니다. 사용자가 반복해서 찾는지, 원본과 결과를 비교할 수 있는지, 오류가 났을 때 사람이 알아차릴 수 있는지, 민감한 판단을 대신하지 않는지를 확인해야 합니다.

4. 효율 수치를 ‘전체 성과’로 착각하지 않았다

가장 구체적인 공개 사례는 페루의 내부 도우미입니다. 3,000명 이상의 직원이 사용하는 이 도우미는 평균 질의 처리 시간을 약 7.5분에서 1분으로 줄였고, 공개 자료는 이를 약 80% 효율 개선으로 설명합니다. 처리 시간이 짧아진 것은 강한 신호지만, 답의 정확도와 최신성, 재문의율, 잘못된 답변이 만든 후속 비용도 함께 봐야 완전한 성과가 됩니다.

직원 1인당 주당 약 3시간 절약도 마찬가지입니다. 10만 명에 단순 곱해 거대한 절감액을 만들면 안 됩니다. 모든 직원이 동일하게 사용하거나 절약 시간이 실제 비용 감소와 같은 의미라는 근거가 없기 때문입니다. 시간은 다음 네 층으로 분리해 읽는 편이 좋습니다.

• 도입: 권한을 받은 사람 중 실제 반복 사용자가 얼마나 되는가
• 과정: 검색, 요약, 초안, 질의 처리 시간이 얼마나 줄었는가
• 품질: 정확도, 수정률, 재작업과 고객 영향이 개선됐는가
• 위험: 개인정보, 편향, 잘못된 조언과 승인 우회가 통제되는가

생산성 지표가 좋아도 품질이나 위험이 악화되면 확장 대상이 아닙니다. 반대로 시간이 조금만 줄어도 중요한 누락을 예방하거나 전문 지식 접근을 평준화한다면 높은 가치가 있을 수 있습니다.

5. 거버넌스를 마지막 관문이 아니라 확장 레일로 만들었다

은행의 AI 도입에는 보안, 법무, 컴플라이언스가 필수입니다. BBVA 사례에서 눈에 띄는 점은 이 조직들을 배포 직전 승인 부서로만 두지 않고 초기부터 정렬했다는 것입니다. 기업용 환경, 교육, 책임 있는 AI 원칙과 업무별 통제를 함께 설계해 직원이 허용된 공간에서 학습하도록 했습니다.

BBVA는 별도의 책임 있는 AI 원칙을 공개하고 가치 창출, 인간 감독, 공정성, 투명성, 개인정보·보안과 책임 같은 주제를 개발·배포·일상 사용에 연결한다고 설명합니다. 원칙 선언만으로 안전해지는 것은 아니지만, 각 업무 흐름에 다음과 같은 관문을 붙일 기준이 됩니다.

• 공개 정보 요약과 내부 제한 정보 처리를 구분한다.
• 고객 권리나 재무 판단에 영향을 주는 결과는 사람이 검토한다.
• 답변의 근거 문서와 최신 시점을 확인할 수 있게 한다.
• 도구 소유자, 변경 기록과 중단 책임자를 지정한다.
• 오류·민원·모델 변경을 회귀 평가로 되돌린다.

좋은 거버넌스는 모든 실험을 막는 벽이 아니라, 낮은 위험의 실험이 어디까지 움직일 수 있는지 알려주는 레일입니다. 위험 등급과 승인 조건이 명확할수록 현업은 허용 범위 안에서 더 빠르게 학습할 수 있습니다.

다른 조직이 적용할 수 있는 90일 확장안

BBVA의 규모를 그대로 복제할 필요는 없습니다. 다음 순서면 작은 조직도 핵심 구조를 시험할 수 있습니다.

1~2주: 업무와 기준선을 고른다

부서별로 반복 빈도가 높고 결과를 확인할 수 있는 업무를 2개씩 모읍니다. 현재 소요시간, 오류와 재작업률, 사용 데이터, 최종 승인자를 기록합니다. 고객 권리·채용·신용·결제처럼 영향이 큰 결정은 첫 파일럿에서 제외하거나 반드시 사람 승인 뒤에 둡니다.

3~6주: 혼합 파일럿과 챔피언을 운영한다

서로 다른 직무의 사용자에게 안전한 공통 환경을 제공하고 팀마다 한 명의 챔피언을 둡니다. 프롬프트 수보다 완료된 업무, 수정 이유와 실패 사례를 수집합니다. 매주 좋은 사례뿐 아니라 중단한 사례도 공유합니다.

7~10주: 재사용 후보를 좁힌다

반복 사용되고 효과를 측정할 수 있는 흐름만 남깁니다. 입력 템플릿, 근거 요구, 금지 행동, 사람 승인, 품질 표본 검사와 소유자를 문서화합니다. 비슷한 개인용 도구는 하나의 관리 버전으로 합칩니다.

11~13주: 확장 게이트를 통과시킨다

도입률, 시간, 품질과 위험을 함께 검토합니다. 통과한 흐름만 다음 부서로 확장하고, 실패를 새 테스트 사례로 추가합니다. 사용하지 않는 GPT나 에이전트는 보관하거나 종료해 카탈로그가 실험의 묘지가 되지 않게 합니다.

사례에서 가져와야 할 측정판

이 사례가 증명하지 않는 것

BBVA 사례는 대규모 생성형 AI 도입이 가능하다는 강한 운영 사례지만 다음을 증명하지는 않습니다.

1. 공개된 시간 절약이 모두 비용 절감이나 수익 증가로 이어졌다는 것
2. 모든 맞춤형 GPT가 정확하고 안전하며 장기간 유지된다는 것
3. 선별된 업무의 최대 효율 개선이 은행 전체에 동일하게 적용된다는 것
4. 특정 모델이나 공급사만으로 같은 조직 변화를 재현할 수 있다는 것
5. 고객 대상 고위험 판단까지 사람 검토 없이 자동화할 수 있다는 것

또한 BBVA는 오랜 디지털 전환 경험, AI Factory, 대규모 데이터·기술 조직을 보유합니다. 인력과 통제 기반이 작은 조직은 범위를 줄이고 외부 감사, 보안 검토와 명확한 중단 조건에 더 많은 비중을 둘 필요가 있습니다.

결론: 확장된 것은 모델이 아니라 학습 시스템이다

BBVA의 사례에서 가장 흥미로운 숫자는 10만 명이지만, 가장 재사용 가능한 교훈은 3,000명 파일럿에서 다음 단계를 결정한 방식입니다. 안전한 환경에서 여러 직무가 실험하고, 현업 챔피언이 지식을 퍼뜨리고, 리더가 직접 배우며, 통제 조직이 확장 조건을 만들고, 반복 사용되는 흐름만 표준화했습니다.

AI 도입을 좌석 수로 관리하면 사용량은 늘어도 업무는 바뀌지 않을 수 있습니다. 반대로 문제, 소유자, 기준선, 품질·위험 게이트와 피드백 루프를 함께 두면 작은 파일럿도 조직의 학습 시스템으로 발전할 수 있습니다. 먼저 넓게 배우고, 증거를 기준으로 좁게 표준화한 뒤, 통제된 방식으로 다시 넓히는 것이 이 사례의 핵심입니다.

주요 출처

• OpenAI — BBVA puts AI at the core of banking with OpenAI
• OpenAI — How BBVA is scaling AI from pilot to practice
• BBVA — 3,000명 초기 배포 후 5개월의 도입 결과
• BBVA — OpenAI와의 전략적 제휴
• BBVA — 인재와 AI 챔피언을 통한 도입
• BBVA — 책임 있는 AI 원칙
• OpenAI — 2025 State of Enterprise AI

제품 기능, 공개 지표와 조직 정책은 변경될 수 있습니다. 성과 수치는 BBVA와 공급사가 공개한 사례 자료이며 독립적인 재무·인과 검증으로 해석해서는 안 됩니다. 실제 도입 전 최신 보안, 개인정보, 규제와 내부 통제 요구를 확인하세요.