AI가 요청하지 않은 단계까지 ‘알아서’ 처리하거나, 반대로 사소한 것까지 물어보며 흐름을 끊는 일이 늘고 있습니다.
연구에 따르면 사용자는 많은 단계를 AI에 맡기길 원하지만, 중요한 판단은 협의하고 싶어합니다.
업무 자동화의 핵심은 ‘무엇을 맡길까’보다 ‘어디서 사람이 개입할까’를 설계하는 데 있습니다.

안녕하세요. 디지털에이전시 이앤아이입니다.

AI에게 일을 맡겼는데, 내가 시키지 않은 내용까지 덧붙여서 결과를 ‘완성’해버린 경험 있으신가요? 반대로 “이건 이렇게 할까요?” “다음은요?” 같은 질문이 계속 이어져서, 오히려 사람이 리듬을 잃는 경우도 많고요. 요즘 AI 협업의 불편함은 성능이 부족해서라기보다, ‘어디까지 위임한 걸로 볼 것인가’가 애매해서 생기는 경우가 꽤 있습니다.

이런 지점을 정면으로 다룬 연구가 arXiv에 공개됐습니다.
논문 ‘What Did the AI Take On?’은 대규모 언어모델을 자주 쓰는 24명을 대상으로 지식업무 과제를 수행하게 하고, 작업 단계별로 총 992개의 사후 평가를 모았습니다. 참가자들은 단계의 48.6%를 ‘내가 요청한 게 아니라 AI가 스스로 맡은 일’로 인식했는데요. 흥미로운 건, 그 자발적 단계의 62.7%는 결과적으로 도움이 됐다고 평가됐다는 점입니다. 즉 ‘AI가 멋대로 했다’가 곧 ‘AI가 틀렸다’는 뜻은 아니었던 거죠.

문제는 자율성 자체보다, 사용자가 기대한 관여 수준과 실제 진행이 어긋날 때였습니다. 참가자들은 전체 단계의 63.9%는 AI에게 전적으로 맡기고 싶어 했습니다. 모든 걸 일일이 확인하고 싶은 게 아니라는 뜻이죠. 다만 위임할 생각이 없었던 중요한 판단을 AI가 대신해버리면, 그때는 ‘한 번만 확인하고 가자’는 협의가 필요해졌습니다. 반대로 중요하지 않은 사소한 단계는 AI가 알아서 처리해주길 바랐고요.

여기서 더 현실적인 포인트가 하나 있습니다. 결과가 마음에 들어도, 과정에는 관여하고 싶은 순간이 있다는 겁니다. 연구에서는 ‘중요한 AI 자발적 수행 단계’ 중에서도 28%는 사용자가 어떤 형태로든 개입하길 원했다고 해요. 품질이 좋다고 해서 ‘결정권을 내가 갖고 있다’는 느낌이 자동으로 따라오진 않는다는 의미입니다. 특히 조직 업무에서는 책임 소재가 걸리기 때문에, 이 감각 차이가 더 크게 느껴질 수 있습니다.

연구진은 그래서 ‘매번 허락받기’와 ‘전부 자동 처리’ 사이의 중간 지대를 제안합니다. 중요한 결정은 사용자가 확인·수정할 수 있게 하고, 작업 성격에 따라 위임 방식을 달리하는 인터페이스가 필요하다는 거죠. 쉽게 말해, AI가 일을 잘하는지보다 ‘어떤 지점에서 멈춰서 사람에게 물어볼지’를 설계하는 문제가 점점 중요해진다는 이야기입니다.

대학, 병원, 공공기관, 기업의 홍보·웹 운영 업무에 대입해보면 더 선명해집니다. 예를 들어 보도자료나 공지 초안의 문장 다듬기, 표현 정리, 구조 재배치는 AI에 맡기되, 핵심 메시지 변경이나 수치·정책·일정 확정은 반드시 담당자 확인을 거치게 하는 식입니다. ‘초안 자동화’와 ‘최종 확정’의 경계를 팀 규칙으로 정해두면, AI가 너무 알아서 하거나 너무 자주 물어보는 문제를 동시에 줄일 수 있습니다.

물론 이번 연구는 24명이 제한된 과제를 수행한 결과라 모든 업무에 그대로 일반화하긴 어렵습니다. 그래도 질문 하나는 남습니다. 우리는 AI에게 ‘무엇을 해줄까’만 정하고, ‘어떤 결정은 내가 내려야 할까’를 충분히 정해두었을까요? 이 경계를 문서로 남기고, 도구 설정과 승인 흐름으로 구현하는 순간부터 AI 협업은 훨씬 편해집니다. 이앤아이는 이런 관점에서, 콘텐츠 제작·웹 운영·업무 자동화에서 ‘사람이 개입해야 하는 지점’을 함께 설계하는 일을 중요하게 보고 있습니다.
이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#AI업무위임 #생성형AI #업무자동화 #프롬프트전략 #휴먼인더루프 #AI거버넌스 #콘텐츠워크플로우 #의사결정 #이앤아이 #디지털에이전시 #ENIMedia #AI전문기업