릭 폴그만 작성
캘리포니아주에서 임대인은 세입자가 이사 나간 후 21일 이내에 보증금을 반환하거나 공제 내역을 명시한 목록을 보내야 합니다. 고의로 기한을 지키지 않을 경우, 처벌액은 보증금의 두 배에 달할 수 있습니다. 이 기한은 해당 서류가 사람에게서 발송된 것인지 아니면 소프트웨어에 의해 전송된 것인지와는 무관합니다. 어떤 경우든 누군가가 그 책임을 져야 합니다.
저는 이 문제를 자주 고민합니다. 제 회사인 Get Covered에서는 현재 300만 개가 넘는 임대 주택에 걸쳐 16개의 AI 에이전트를 운영하고 있습니다. 이들 에이전트를 구축할 때, 기술적인 문제들은 오히려 비교적 간단한 것으로 드러났습니다. 각 에이전트에게 있어 더 어려운 문제는 사실 그들이 누구에게 보고해야 하는가였습니다.
Get Covered의 최고운영책임자인 릭 폴그먼.
대부분의 기업들이 곧 같은 질문에 직면할 예정이며, 이에 대비한 기업은 많지 않습니다. 딜로이트의 2026년 AI 현황 조사에 따르면, 현재 적어도 중간 정도 수준으로 에이전트형 AI를 활용하는 기업은 23%에 불과하며, 2년 내에 이 비율이 74%로 증가할 것으로 예상됩니다.
한편, 가트너는 2027년 말까지 에이전트형 AI 프로젝트의 40% 이상이 취소될 것이라고 예측했습니다.
이러한 수치들은 규제된 직무에서 직원을 관리하듯 에이전트를 운영해야 한다는 주장을 뒷받침합니다. 즉, 서면으로 정해진 규정과 명확히 정의된 업무 범위, 관리자 및 정기적인 검토가 필요하다는 것입니다.
다음은 저희에게 효과가 있었던 방법이며, 규모 확장과 관련하여 모든 의사결정자가 집중해야 할 사항을 제안드립니다.
이미 규칙집이 마련된 작업부터 시작하세요
에이전트의 초기 후보 중 가장 적합한 것은, 규칙이 이미 누구의 머릿속이 아닌 외부에 존재하는 작업들입니다: 법령, 계약 조항, 또는 공급업체 계약상의 보험 요건 등입니다.
공급업체의 보험 증권을 확보하세요. 업계 전반에서 부동산 관리팀은 매주 각 부동산당 약 3시간을 할애해 이메일로 해당 문서를 추적합니다. 이러한 작업은 지루하지만 동시에 매우 명확히 정의되어 있습니다.
이와 같은 과제는 의사결정권자들에게 두 가지 이점을 제공합니다. 첫째, 에이전트가 자신의 출력을 비교할 수 있는 객관적인 기준이 마련되며, 둘째, 팀은 판단에 대한 논쟁 없이 결과를 감사할 수 있습니다.
맥킨지의 최신 AI 현황 연구에 따르면, AI로 인한 실질적인 수익 향상을 경험하고 있는 소수 기업들—응답자의 약 6%—은 업무 프로세스를 근본적으로 재설계했을 가능성이 거의 3배나 높은 것으로 나타났습니다.
제 경험상, 이러한 재설계는 먼저 규칙을 문서로 작성하는 것에서 시작됩니다. 신규 입사자가 며칠 만에 해당 결정에 대한 설명을 따라올 수 없다면, 에이전트 역시 이를 따르지 않을 것입니다.
워크플로우에 따라 자율성 설정하기
제가 자주 만나는 기술 분야 임원들은 마치 AI 시스템이 하나의 고정된 특성인 것처럼, 그 시스템이 자율적인지 여부를 묻곤 합니다. 실제로는 동일한 에이전트라도 그것이 관여하는 대상에 따라 서로 다른 수준의 자유도를 갖도록 운영되어야 합니다.
Get Covered에서는 각 에이전트를 다양한 수준으로 구성합니다. 예를 들어, 다음 달에 인증서가 만료되는 공급업체에게 보내는 알림은 자동으로 발송될 수 있습니다. 반면, 정서적 지지 동물을 요청한 거주자에 대한 응답은 절대 자동으로 발송되지 않습니다.
모든 리더십 팀에게 유용한 연습은, 에이전트가 관여하게 될 모든 워크플로를 나열하고 각각에 대해 하나의 질문을 던지는 것입니다: 만약 이 작업이 잘못된다면, 우리는 언제 이를 알아채게 되며, 그때까지 어떤 비용이 발생할까요? 신속한 탐지와 낮은 비용은 에이전트에게 더 많은 여유를 제공합니다.
모든 에이전트에 이름이 지정된 소유자를 할당하세요
내 경력 초기에 나는 모든 자동화된 신용 심사 결과는 결국 고객이나 규제 당국, 또는 양쪽 모두에게 설명되어야 한다는 점을 배웠다. 모델이 내린 결정 자체만으로는 결코 만족스러운 답변이 될 수 없었다.
그것은 여전히 유효하며, 다만 이제는 에이전트들이 과거 어떤 인수 모델보다 더 자주, 더 많은 시스템에 걸쳐 활동합니다.
따라서 우리 회사의 모든 에이전트에는 팀이나 예산과 마찬가지로 최종 책임자가 있습니다. 해당 책임자는 에이전트의 오류 로그를 검토하고, 자율성을 확대하거나 축소할 시점을 결정하며, 그에 대한 책임을 집니다.
소유권은 또한 보다 조용한 문제를 예방합니다. 여러 팀이 개별적으로 에이전트를 배포할 경우, 각 에이전트 간에 서로 모순되는 부분이 어디인지 아무도 파악하지 못합니다.
제약 조건이 실제로 적용되는 위치
오늘날의 시장에서는 모델들이 지속적으로 개선될 수밖에 없습니다. 어떤 사람이 무엇을 결정할지에 대한 기업의 명확성은 그 자체로 향상되지 않습니다. 가트너의 취소 예측이 이를 반영합니다: 실패하는 대부분의 에이전트 프로젝트는 가치를 정의하거나 리스크를 관리한 이가 없었기 때문에 발생하며, 이 두 가지 모두 경영 문제입니다.
2027년을 앞둔 의사결정자들에게 드리는 조언은, 규제를 받는 역할에서 신규 직원을 대하듯 각 에이전트를 대우하라는 것입니다. 해당 에이전트의 규칙을 문서로 작성하고, 그 적용 범위를 제한하며, 업무를 점검하고 성과를 논의하는 관리자를 지정하세요.
이를 시행하는 기업들은 그에 대한 근거를 확보할 수 있기 때문에 시간이 지나면서 에이전트에게 더 많은 권한을 부여할 수 있게 될 것입니다. 이를 생략하는 기업들은 2027년이 되면, 아무도 승인하지 않은 일을 자사 소프트웨어가 왜 했는지 설명하느라 골머리를 앓게 될 것입니다.
릭 폴그먼은 몇 번의 클릭만으로 비용 효율적인 재산 보험을 제공하는 보험 기술 기업인 ‘겟 커버드’의 최고운영책임자입니다. 그는 금융 및 보험 산업에서 25년이 넘는 임원급 리더십 경험을 보유하고 있습니다.
일러스트레이션: 돔 구즈만