인공지능이 고객의 취향과 행동을 정교하게 읽어낼수록 서비스는 편리해지지만, 그만큼 기업이 들여다보는 고객의 삶도 넓어진다. 이 편리함이 감시나 불공정한 판단으로 돌아오지 않으려면, 기업은 기술의 성능과 함께 데이터 사용의 경계와 오류에 대한 책임을 설계해야 한다. 고객이 안심하고 다시 선택할 수 있는 운영 능력이 인공지능을 지속적인 성장으로 연결하는 기반이 된다.

* 책임 있는 인공지능은 고객이 서비스를 안심하고 이용할 수 있게 만드는 사업 기반이다. 기술의 성능과 함께 데이터 사용 방식, 오류 대응, 이용자의 선택권을 설계해야 한다.

* 고객에게 유리한 서비스와 기업에 유리한 자동화가 언제나 일치하지는 않는다. 단기적인 전환율과 비용 절감 뒤에 고객의 불이익이 숨지 않는지 살펴야 한다.

* 관리 체계의 출발점은 사내에서 어떤 인공지능을 사용하는지 파악하는 일이다. 시스템마다 담당자와 사용 목적, 데이터의 흐름, 사고 대응 책임을 연결해야 한다.

* 신뢰는 윤리 원칙을 발표하는 것만으로 생기지 않는다. 고객이 설명을 요청하고 잘못된 판단을 바로잡을 수 있을 때 책임 있는 운영이 구체적인 경험이 된다.

* 책임 있는 운영이 성장으로 이어지는지는 실제 성과로 확인해야 한다. 도입 속도와 생산성뿐 아니라 고객 유지, 문제 해결, 재발 방지까지 함께 평가할 필요가 있다.

***

고객이 온라인 쇼핑몰에서 운동화를 살펴본다. 다음 접속 때 취향에 맞는 제품이 첫 화면에 등장한다. 검색 시간이 줄어들고 선택도 쉬워진다. 여기까지는 반가운 개인화다. 그런데 다른 서비스에서 나눈 대화나 예상하지 못한 생활 정보까지 추천에 반영된다면 느낌이 달라진다. 자신을 이해하는 서비스가 어느 순간 자신을 지나치게 들여다보는 서비스로 바뀐다.

이 가상 장면에서 인공지능의 성능은 떨어지지 않는다. 오히려 추천은 더 정확해질 수 있다. 문제는 정확성을 얻는 과정과 고객이 받아들일 수 있는 범위 사이의 간격이다. 기업은 구매 가능성을 높였다고 평가하지만, 고객은 허락하지 않은 영역까지 자신의 정보가 넘어갔다고 느낄 수 있다. 같은 결과를 두고 기업과 고객이 서로 다른 장부를 쓰는 셈이다.

2026년 7월 21일 하버드 비즈니스 리뷰에 실린 경영 분석은 이 간격을 기업의 디지털 책임이라는 관점에서 다룬다. 핵심 과제는 법규 준수 중심의 활동을 사업 성과와 고객의 안녕을 함께 고려하는 전략 역량으로 발전시키는 것이다. 실행 과정으로는 사용 중인 인공지능의 파악, 설계 단계의 관리와 감독, 책임 있는 운영 방식의 공개를 제시한다.

이 관점에서 중요한 것은 책임을 기술 바깥에 붙이는 장식으로 취급하지 않는 일이다. 서비스가 이미 완성된 뒤 이용약관을 길게 쓰는 것으로는 고객이 경험하는 문제를 충분히 바꾸기 어렵다. 어떤 정보를 수집할지, 어떤 판단을 자동화할지, 사람이 개입할 통로를 어디에 둘지는 제품의 기능과 함께 결정해야 한다. 책임은 출시 직전 확인하는 항목이 아니라 서비스를 구성하는 선택이다.

기업이 인공지능으로 얻으려는 가치 역시 이 선택에 영향을 받는다. 광고 반응을 높이는 것인지, 고객의 탐색 시간을 줄이는 것인지, 상담의 정확도를 높이는 것인지에 따라 필요한 데이터와 허용할 수 있는 오류가 달라진다. 목적이 모호하면 더 많은 데이터를 모으고 더 많은 판단을 자동화하는 행위 자체가 성과처럼 보이기 쉽다. 좋은 출발점은 기술의 범위를 넓히는 일보다 고객에게 제공할 편익을 구체적으로 정하는 일이다.

인공지능의 경제성을 검토할 때 기업이 먼저 보는 숫자는 대체로 분명하다. 처리 시간이 얼마나 줄었는지, 인건비를 얼마나 절약했는지, 구매 전환율이 얼마나 높아졌는지다. 이 숫자들은 필요하다. 다만 기업 내부의 효율을 보여주는 지표만으로 서비스의 전체 가치를 설명하기는 어렵다. 기업이 절약한 시간이 고객에게 추가 업무로 돌아갈 수도 있기 때문이다.

가령 한 기업이 상담을 자동화해 평균 응답 시간을 크게 줄였다고 가정해보자. 간단한 배송 조회는 빨라지지만 복잡한 환불 문제를 가진 고객은 비슷한 질문을 여러 차례 반복한다. 상담원에게 연결되는 경로는 찾기 어렵고, 대화가 넘어갈 때마다 처음부터 사정을 설명해야 한다. 기업의 장부에는 처리 비용 감소가 기록된다. 고객의 장부에는 반복 설명과 대기, 해결 지연이라는 비용이 쌓인다.

이때 자동화의 성과를 다시 평가하려면 응답과 해결을 구분해야 한다. 첫 답변이 빨라졌다는 사실과 문제가 제대로 해결됐다는 사실은 다르다. 상담 건수가 줄어도 고객이 포기해서 문의를 멈춘 것이라면 해석이 달라진다. 처리량에 해결률을 더하고, 평균값에 복잡한 문제를 가진 고객의 경험을 보태야 개선의 방향이 보인다.

추천과 판매에서도 비슷한 문제가 생긴다. 고객이 오래 머물수록 좋은 서비스인지, 필요한 정보를 빨리 찾고 떠날수록 좋은 서비스인지부터 따져야 한다. 구매 건수를 늘리는 추천과 구매 뒤 후회를 줄이는 추천은 서로 다른 목표를 가질 수 있다. 고객의 취약한 순간을 이용한 제안은 당장의 반응을 높이더라도 장기적인 관계에는 부담이 된다.

책임 있는 운영을 성장 전략으로 검토한다는 것은 이러한 비용을 의사결정 안으로 가져오는 일이다. 모든 불편을 없애겠다는 약속보다 어떤 편익을 위해 어떤 부담이 발생하는지 살펴보는 태도가 중요하다. 고객의 부담을 줄인 변화가 실제로 재이용과 관계 유지에 도움이 되는지는 이후의 행동과 피드백으로 확인해야 한다. 신뢰의 가치를 주장하는 것과 그 효과를 입증하는 일은 구분할 필요가 있다.

책임을 논의하려면 먼저 책임의 대상을 알아야 한다. 경영진이 승인한 대형 프로젝트만 살펴봐서는 조직 전체의 사용 모습을 파악하기 어렵다. 문서 작성 도구, 채용 서비스, 고객관리 프로그램, 외부 상담 솔루션에 인공지능 기능이 포함될 수 있다. 직원이 업무 편의를 위해 개별적으로 사용하는 서비스도 있다. 도입 경로가 여러 갈래이면 관리의 시야 역시 쉽게 끊어진다.

이때 필요한 것은 도구 이름을 모은 목록을 넘어선 업무 지도다. 어떤 부서가 어떤 목적으로 사용하는지, 입력 정보는 무엇인지, 결과가 누구에게 영향을 주는지, 최종 결정은 누가 내리는지를 연결해야 한다. 같은 문장 생성 기능이라도 내부 회의록을 정리할 때와 고객에게 계약 조건을 안내할 때는 검토해야 할 문제가 달라진다.

지도는 질문을 구체적으로 만든다. 고객의 정보가 외부 서비스로 전달되는가. 생성된 답변이 검토 없이 발송되는가. 추천 결과가 사실상 사람의 선택을 제한하는가. 오류를 발견했을 때 해당 기능만 멈출 수 있는가. 질문에 답할 담당자가 없다면 기술의 문제가 발생하기 전부터 운영의 빈틈이 존재하는 것이다.

외부 공급업체가 제공하는 기능도 이 지도 안에 들어가야 한다. 고객은 문제가 서비스 내부에서 생겼는지 외부 도구에서 생겼는지 알기 어렵다. 자신이 거래한 기업에 설명과 해결을 요구하게 된다. 따라서 도입을 검토할 때 성능 시연과 가격 비교에 더해 데이터 처리 방식, 변경 통지, 오류 조사에 필요한 정보, 지원 범위를 확인할 필요가 있다.

모든 도구에 같은 수준의 통제를 적용하면 운영 부담이 커질 수 있다. 사람에게 미치는 영향과 오류의 되돌림 가능성을 기준으로 검토의 깊이를 달리하는 편이 합리적이다. 내부 초안 작성과 채용 탈락 판단을 같은 절차로 다루기보다, 결정의 중요도에 맞게 승인과 검증을 설계해야 한다. 사용 현황을 파악하는 일의 목적은 일괄적인 제한보다 필요한 곳에 책임을 배치하는 데 있다.

기업의 윤리 원칙에는 공정성, 투명성, 안전성처럼 필요한 가치가 담긴다. 그러나 고객은 대개 선언문을 읽으며 서비스를 평가하지 않는다. 자신에게 불리한 결과가 나왔을 때 설명을 받을 수 있는지, 개인정보 사용을 거절해도 기본적인 이용이 가능한지, 자동화된 답변에 문제가 있을 때 사람에게 도달할 수 있는지를 통해 원칙을 경험한다.

예를 들어 자동 심사를 거친 신청이 거절되는 가상 상황을 생각해보자. 고객에게 거절 사실만 통보하면 내부 절차가 아무리 정교해도 고객은 판단을 이해하기 어렵다. 반면 확인할 정보가 무엇인지, 정정이 가능한지, 재검토를 어떻게 요청하는지 안내하면 대응할 길이 열린다. 설명은 결과를 받아들이도록 설득하는 문구를 넘어 고객이 다음 행동을 결정할 수 있게 해야 한다.

사람의 검토를 둔다는 원칙도 운영 방식에 따라 의미가 달라진다. 담당자가 판단 근거를 살펴볼 정보와 시간을 갖지 못하면 자동화된 결과를 그대로 승인하기 쉽다. 잘못된 결과를 수정할 권한이 없거나 수정에 불이익이 따른다면 검토 절차는 제 기능을 하기 어렵다. 사람을 배치하는 것과 사람이 실질적으로 판단할 수 있게 만드는 것은 별개의 설계 과제다.

투명성 역시 정보의 양만으로 평가하기 어렵다. 기술적인 설명을 길게 제공해도 고객이 자신에게 미치는 영향을 이해하지 못하면 활용하기 힘들다. 어느 단계에서 인공지능이 사용되는지, 중요한 제한은 무엇인지, 도움이 필요할 때 어디로 가야 하는지를 상황에 맞게 보여주는 편이 유용하다. 고객이 필요한 순간에 필요한 설명을 찾을 수 있어야 한다.

이러한 선택지는 개발과 운영의 협업을 요구한다. 이의 제기 기능을 만들려면 접수 화면만 있어서는 부족하다. 누가 검토하고 어떤 기준으로 답하며, 수정된 내용이 다른 시스템에도 반영되는지 정해야 한다. 책임을 제품에 반영한다는 말은 이처럼 화면, 업무 절차, 권한, 기록을 함께 연결하는 작업을 뜻한다.

관리 체계를 강화하면 혁신이 느려질 것이라는 우려는 현실적인 문제다. 작은 수정까지 여러 조직의 승인을 받아야 하거나 검토 기준이 매번 달라지면 현장은 도입을 피로하게 느낀다. 책임 있는 운영을 사업 역량으로 만들려면 위험을 살피는 기능과 업무를 진행할 수 있게 돕는 기능이 함께 작동해야 한다.

가상으로 두 팀이 비슷한 고객 안내 기능을 개발한다고 해보자. 한 팀은 출시 직전에 데이터 사용 문제를 발견해 화면과 계약을 다시 수정한다. 다른 팀은 기획 단계에서 허용되는 데이터와 필수 안내 사항을 확인하고 개발한다. 두 번째 팀의 초기 검토에는 시간이 들지만 뒤늦은 변경의 범위를 줄일 가능성이 있다. 관리 체계의 효과는 승인에 걸린 시간뿐 아니라 재작업과 불확실성까지 살펴야 평가할 수 있다.

이를 위해서는 현장에서 사용할 수 있는 기준이 필요하다. 입력해도 되는 정보, 검토가 필요한 용도, 반드시 사람이 확인할 결과, 문제가 생겼을 때 연락할 담당자가 분명해야 한다. 원칙을 해석하는 부담을 직원 개인에게 넘기면 같은 조직 안에서도 판단이 제각각 달라진다. 반복되는 업무에는 공통 기준을 제공하고 새로운 위험에는 별도의 검토를 붙이는 방식이 도움이 된다.

성과 보상도 기준과 연결해야 한다. 상담 조직이 처리 건수만으로 평가받으면 복잡한 문의를 빠르게 종료할 유인이 생긴다. 판매 조직이 전환율만으로 평가받으면 고객이 충분히 이해했는지에 대한 관심이 약해질 수 있다. 책임 있는 행동을 요구하면서 다른 방향의 행동에 보상한다면 선언보다 평가 지표가 더 강하게 작동한다.

경영진이 살펴야 할 것은 위원회의 존재 자체보다 판단이 실제로 이뤄지는 방식이다. 위험을 이유로 보류한 기능이 무엇인지, 어떤 조건을 바꿔 다시 추진했는지, 고객의 문제 제기가 어떤 개선으로 연결됐는지를 확인해야 한다. 이러한 기록은 관리가 업무를 막는지, 더 나은 선택을 돕는지를 보여준다. 조직이 배워야 할 대상도 개별 담당자의 실수를 넘어 판단을 만들어낸 구조로 넓어진다.

한국 기업에 적용할 때는 디지털 이용 경험의 편리함과 문제 해결 경험을 함께 살펴볼 필요가 있다. 가입과 결제는 몇 번의 선택으로 끝나지만 해지와 정정, 이의 제기는 여러 단계를 거친다면 고객은 서비스의 우선순위를 읽어낸다. 인공지능을 추가하는 과정에서도 이러한 비대칭이 커지지 않는지 검토해야 한다. 편리함은 거래를 시작하는 순간뿐 아니라 관계를 조정하거나 끝내는 순간에도 필요하다.

조직 내부에서는 기술 부서에만 책임을 모으기 어렵다. 데이터의 이용 목적은 사업 부서가 정하고, 고객 안내는 운영 부서가 만들며, 외부 도구의 조건은 구매와 계약 과정에서 결정된다. 각 부서가 자기 업무만 완료해도 전체 흐름에는 빈틈이 남을 수 있다. 중요한 판단마다 책임자를 분명히 하고, 서로 다른 부서의 결정이 만나는 지점을 확인하는 운영이 필요하다.

앞으로의 변화를 전망하면 첫째, 기업 간 거래에서 책임 있는 운영을 설명하는 능력의 중요성이 커질 수 있다. 구매 기업이 도입 이후의 부담까지 검토한다면 공급업체는 기능과 가격에 더해 데이터 관리와 문제 대응 방식을 제시해야 한다. 책임에 관한 설명이 제안서의 부록에서 구매 판단의 한 요소로 이동하는 상황을 예상할 수 있다.

둘째, 품질 관리의 범위가 평균 성능에서 오류의 분포로 넓어질 수 있다. 전체적으로 높은 정확도를 보이더라도 특정 고객이나 복잡한 상황에서 문제가 반복되면 운영상 부담이 집중된다. 셋째, 출시 이후의 변경 관리가 더 중요해질 수 있다. 사용 목적과 연결 데이터가 달라졌는데도 최초 검토만 유지하면 현재의 위험을 놓칠 수 있기 때문이다. 두 변화 모두 한 번의 승인보다 지속적인 관찰을 요구한다.

넷째, 고객이 조정할 수 있는 선택권이 서비스 차별화의 요소가 될 가능성이 있다. 개인화 수준을 바꾸고, 정보 사용 범위를 확인하고, 중요한 판단의 재검토를 요청할 수 있다면 고객은 서비스를 이용하면서 통제감을 가질 수 있다. 다만 선택지를 늘리는 것만으로 충분하지는 않다. 이해하기 쉬운 구성과 실제로 작동하는 후속 절차가 함께 있어야 한다.

다섯째, 책임 있는 운영의 성과를 측정하려는 요구가 커질 수 있다. 고객 유지와 재이용, 이의 제기 처리, 오류 재발, 직원의 검토 부담 등을 함께 보면 비용과 편익을 더 구체적으로 논의할 수 있다. 관리 활동이 있다는 사실보다 무엇이 개선됐는지를 보여주는 기업이 자신의 선택을 설득하기 쉬워진다.

이 전망들은 성장의 보장이라기보다 기업이 검증해야 할 경영 가설에 가깝다. 고객이 어떤 위험을 중요하게 생각하는지, 어떤 설명을 유용하게 받아들이는지, 어떤 선택권을 실제로 사용하는지는 서비스마다 다르다. 책임 있는 운영도 고객 경험과 사업 성과를 관찰하며 조정해야 한다.

인공지능을 활용하는 기업이 고객에게 건네는 약속은 점점 넓어진다. 더 빠르고 편리하게 돕겠다는 약속에는 정보를 적절하게 다루고, 잘못된 판단을 고치며, 문제가 생겼을 때 응답하겠다는 책임이 따른다. 기술이 만들어낸 편익을 오래 유지하려면 이 약속을 일상의 운영으로 지켜야 한다. 고객이 안심하고 다시 선택할 이유는 그 과정에서 쌓인다.

Wade, Michael, and Jochen Wirtz. "Responsible AI Is Becoming a Growth Strategy." Harvard Business Review, July 21, 2026. Official article summary and HBR Store description.

As AI reads customers' preferences and behavior with greater precision, services become more convenient, but companies also gain a broader view of customers' lives. To keep that convenience from turning into surveillance or unfair decisions, companies must design boundaries for data use and accountability for errors alongside technical performance. The operational ability to give customers the confidence to choose a service again provides a foundation for translating AI into sustained growth.

* Responsible AI is a business foundation that allows customers to use services with confidence. Alongside technical performance, companies must design how data is used, how errors are handled, and what choices users have.

* Services that benefit customers do not always align with automation that benefits companies. Businesses must examine whether short-term conversion gains and cost savings conceal disadvantages for customers.

* Governance begins with understanding which AI systems are being used within the organization. Each system needs clear connections among its owner, purpose, data flows, and responsibility for incident response.

* Trust does not emerge simply from publishing ethical principles. Responsible operations become a tangible experience when customers can request explanations and have incorrect decisions corrected.

* Whether responsible operations lead to growth must be verified through actual results. Evaluation should cover customer retention, problem resolution, and prevention of recurrence, alongside adoption speed and productivity.

***

A customer browses sneakers at an online store. On their next visit, products matching their preferences appear on the first screen. Searching takes less time, and choosing becomes easier. So far, personalization is welcome. But the experience feels different if recommendations also reflect conversations on other services or personal information the customer never expected to be used. At some point, a service that understands them becomes a service that looks too deeply into their life.

In this hypothetical scene, AI performance does not decline. Recommendations may actually become more accurate. The issue is the gap between the process used to achieve that accuracy and what the customer considers acceptable. The company may conclude that it has increased the likelihood of a purchase, while the customer may feel that their information has crossed into territory they never authorized. Company and customer are effectively keeping different accounts of the same outcome.

A management analysis published in Harvard Business Review on July 21, 2026, examines this gap through the lens of corporate digital responsibility. The central task is to develop compliance-centered activities into a strategic capability that considers business performance and customer well-being together. Its implementation approach includes identifying the AI systems in use, incorporating governance and oversight at the design stage, and making responsible operating practices visible.

From this perspective, responsibility should not be treated as an ornament attached to the outside of technology. Writing lengthy terms of service after a service is complete can do little to change the problems customers experience. Decisions about what information to collect, which judgments to automate, and where to provide channels for human intervention must be made alongside product features. Responsibility is a set of choices that constitutes the service, rather than an item checked just before launch.

The value a company seeks from AI is also affected by these choices. The data required and the errors that can be tolerated vary depending on whether the goal is to increase advertising responses, reduce customers' search time, or improve the accuracy of customer support. When objectives are vague, collecting more data and automating more decisions can easily appear to be achievements in themselves. A good starting point is to define the benefit offered to customers specifically, before expanding the technology's scope.

The numbers companies examine first when assessing AI's economic value are usually clear: how much processing time has fallen, how much labor cost has been saved, and how much purchase conversion has increased. These numbers are necessary. Yet metrics showing internal efficiency alone cannot easily explain a service's total value. Time saved by the company may return as additional work for the customer.

Suppose a company automates customer support and substantially reduces its average response time. Simple delivery inquiries become faster, but customers with complicated refund problems repeat similar questions several times. The route to a human agent is difficult to find, and every handoff requires them to explain their situation again from the beginning. The company's accounts record lower processing costs. The customer's accounts accumulate the costs of repeated explanations, waiting, and delayed resolution.

Reassessing automation in this situation requires distinguishing responses from resolutions. A faster first answer is different from a problem properly resolved. Even a decline in support inquiries has a different meaning if customers have stopped contacting the company because they have given up. The direction for improvement becomes clearer when resolution rates accompany throughput and the experiences of customers with complex problems accompany averages.

Similar issues arise in recommendations and sales. Companies first need to ask whether a good service is one where customers stay longer or one where they quickly find the information they need and leave. Recommendations that increase purchases may have different objectives from recommendations that reduce regret after purchase. Offers that exploit customers' vulnerable moments may improve immediate responses while placing a burden on the long-term relationship.

Considering responsible operations as a growth strategy means bringing these costs into decision-making. More important than promising to eliminate every inconvenience is examining which burdens arise in pursuit of which benefits. Whether changes that reduce customer burdens actually encourage repeat use and help sustain relationships must be checked through subsequent behavior and feedback. Claiming that trust has value and demonstrating its effects are tasks that need to be distinguished.

To discuss responsibility, an organization must first know what it is responsible for. Examining only major projects approved by senior management makes it difficult to understand AI use across the organization. AI features may be embedded in document-writing tools, recruitment services, customer management software, and external customer support solutions. Employees may also use services individually to make their work easier. When adoption follows many paths, governance can easily lose sight of parts of the picture.

What is needed is a map of work that goes beyond a list of tool names. It should connect the departments using each tool, their purposes, the information entered, the people affected by the outputs, and whoever makes the final decision. Even with the same text-generation feature, the issues requiring examination differ between organizing internal meeting minutes and explaining contract terms to customers.

Such a map makes questions specific. Is customer information sent to an external service? Are generated answers sent without review? Do recommendations effectively restrict people's choices? Can the relevant feature alone be stopped when an error is discovered? If no one is responsible for answering these questions, an operational gap exists even before a technical problem occurs.

Features provided by external suppliers must also be included on this map. Customers have difficulty knowing whether a problem arose inside the service or in an external tool. They will turn to the company they dealt with for an explanation and a solution. When considering adoption, companies therefore need to examine data processing practices, change notifications, information needed to investigate errors, and the scope of support, alongside performance demonstrations and price comparisons.

Applying the same level of control to every tool can increase operational burdens. It is more reasonable to vary the depth of review according to the impact on people and whether errors can be reversed. Rather than subjecting internal drafting and decisions to reject job applicants to identical procedures, approvals and verification should reflect the importance of each decision. The purpose of understanding usage is to assign responsibility where it is needed, rather than impose blanket restrictions.

Corporate ethical principles contain necessary values such as fairness, transparency, and safety. But customers do not usually evaluate services by reading declarations. They experience those principles through whether they can obtain an explanation for an unfavorable outcome, whether basic access remains possible if they refuse the use of personal information, and whether they can reach a person when an automated answer is problematic.

Consider a hypothetical application rejected after automated screening. If customers are merely notified of the rejection, even highly sophisticated internal procedures will not help them understand the decision. By contrast, explaining what information needs checking, whether corrections are possible, and how to request reconsideration gives them a way to respond. An explanation must go beyond language persuading customers to accept the result and enable them to decide what to do next.

The meaning of a commitment to human review also changes with its implementation. If staff lack the information and time to examine the basis of a judgment, they can easily approve automated results as they stand. If they have no authority to correct an incorrect result, or corrections bring penalties, the review procedure will struggle to function properly. Assigning people and enabling them to exercise meaningful judgment are separate design tasks.

Transparency, too, is difficult to assess solely by the quantity of information provided. Lengthy technical explanations are hard to use if customers cannot understand the implications for them. It is more useful to show, in context, where AI is used, what the important limitations are, and where to go for help. Customers should be able to find the explanation they need at the moment they need it.

These choices require collaboration between development and operations. Creating an appeals feature requires more than a submission screen. Companies must decide who reviews appeals, what standards guide responses, and whether corrections are reflected in other systems. Incorporating responsibility into a product means connecting interfaces, work procedures, authority, and records in this way.

Concern that stronger governance will slow innovation is a practical issue. If even minor changes need approval from multiple organizational units, or review standards change each time, frontline teams find adoption exhausting. Making responsible operations a business capability requires functions that examine risk and functions that help work proceed to operate together.

Imagine two teams developing similar customer guidance features. One discovers a data-use problem shortly before launch and revises its interfaces and contracts. The other checks permitted data and required disclosures at the planning stage before developing the feature. The second team's initial review takes time, but it may reduce the scale of later changes. Governance effectiveness can only be assessed by considering rework and uncertainty alongside the time taken for approval.

This requires standards that staff can use in practice. It should be clear what information may be entered, which uses need review, which outputs require human checking, and whom to contact when problems occur. Leaving individual employees to interpret principles produces inconsistent judgments within the same organization. Providing common standards for recurring work and separate reviews for new risks can help.

Performance incentives must also align with these standards. If a support organization is evaluated only on the number of cases processed, it has an incentive to close complex inquiries quickly. If a sales organization is evaluated only on conversion rates, it may pay less attention to whether customers have fully understood. When companies demand responsible conduct but reward behavior pointing in another direction, evaluation metrics exert a stronger influence than declarations.

Management should examine how decisions are actually made, rather than merely whether a committee exists. It should identify which features were deferred because of risk, which conditions were changed before work resumed, and which improvements resulted from customer complaints. These records show whether governance obstructs work or supports better choices. What the organization needs to learn from expands beyond individual employees' mistakes to the structures that produced their judgments.

In applying these ideas to Korean companies, the convenience of digital services and the experience of resolving problems need to be examined together. If registration and payment take only a few choices while cancellation, correction, and appeals require multiple steps, customers recognize the service's priorities. Companies should check whether adding AI increases this asymmetry. Convenience is needed when adjusting or ending a relationship as well as when starting a transaction.

Inside the organization, responsibility is difficult to concentrate in the technology department alone. Business units determine the purposes for using data, operations teams create customer guidance, and the terms for external tools are decided through procurement and contracting. Gaps can remain in the overall process even if every department completes its own tasks. Operations need to identify an accountable owner for each important judgment and examine where decisions made by different departments meet.

Looking ahead, first, the ability to explain responsible operations may become more important in business-to-business transactions. If purchasing companies examine the burdens that arise after adoption, suppliers will need to present data management and problem response practices alongside features and prices. Explanations of responsibility may move from proposal appendices into the purchasing decision itself.

Second, quality management may expand from average performance to the distribution of errors. Even when overall accuracy is high, repeated problems affecting particular customers or complex situations concentrate operational burdens. Third, managing changes after launch may become more important. Relying solely on the original review can miss current risks when the purpose of use and connected data have changed. Both developments call for ongoing observation rather than a single approval.

Fourth, choices that customers can adjust may become a source of service differentiation. Customers may feel a sense of control if they can change the level of personalization, check the scope of information use, and request a review of important decisions. Simply adding options, however, is insufficient. An understandable structure and follow-up procedures that actually work must accompany them.

Fifth, demand to measure the performance of responsible operations may increase. Considering customer retention and repeat use, appeals handling, recurring errors, and employees' review workloads together allows a more specific discussion of costs and benefits. Companies that show what has improved, rather than merely that governance activities exist, can more readily make a persuasive case for their choices.

These forecasts are closer to management hypotheses that companies should test than to guarantees of growth. The risks customers consider important, the explanations they find useful, and the choices they actually use differ across services. Responsible operations must also be adjusted through observation of customer experience and business performance.

The promises companies using AI make to customers are expanding. A promise to help faster and more conveniently carries responsibilities to handle information appropriately, correct mistaken decisions, and respond when problems arise. Sustaining the benefits created by technology requires keeping that promise in everyday operations. The reasons customers feel confident choosing the service again accumulate through that process.

Wade, Michael, and Jochen Wirtz. "Responsible AI Is Becoming a Growth Strategy." Harvard Business Review, July 21, 2026. Official article summary and HBR Store description.