인공 지능(AI)은 인간의 한계를 넘어 데이터 처리 및 의사 결정 능력을 향상시켜 다양한 분야에 혁명을 일으키고 있습니다. 그러나 AI 시스템이 더욱 정교해짐에 따라 점점 불투명해지고 투명성, 신뢰 및 공정성에 대한 우려가 커지고 있습니다.
대부분 AI 시스템에서 일반적으로 나타나는 “블랙박스” 특성은 종종 이해 관계자가 AI에서 생성된 출력의 기원과 신뢰성에 의문을 품게 합니다. 이에 따라 설명 가능 AI(XAI)와 같은 기술이 등장하여 AI 운영을 신비화 해제하려고 하지만 종종 복잡성을 완전히 명확히 하는 데는 부족합니다.
AI의 복잡성이 계속 진화함에 따라 이러한 시스템이 효과적일 뿐만 아니라 신뢰할 수 있고 공정하도록 보장하는 견고한 메커니즘에 대한 필요성도 커지고 있습니다. 분산형 기록 보관을 통해 보안과 투명성을 강화하는 데 중요한 역할을 하는 것으로 알려진 블록체인 기술이 등장했습니다.
블록체인은 금융 거래를 보호하는 것뿐만 아니라 이전에는 달성하기 어려웠던 검증 가능한 계층을 AI 운영에 주입하는 잠재력을 가지고 있습니다. 데이터 무결성 및 의사 결정의 추적 가능성과 같은 AI의 가장 지속적인 과제 중 일부를 해결할 잠재력이 있어 투명하고 신뢰할 수 있는 AI 시스템을 추구하는 데 중요한 구성 요소가 됩니다.
Chainbase의 COO인 크리스 펭은 crypto.news와의 인터뷰에서 이 주제에 대한 통찰력을 제공했습니다. 펭에 따르면 블록체인 통합이 AI 투명성의 모든 측면을 직접 해결하지는 못하지만 여러 가지 중요한 영역을 강화합니다.
블록체인 기술이 실제로 AI 시스템의 투명성을 향상시킬 수 있을까?
블록체인 기술은 AI 모델에서 설명 가능성의 핵심 문제를 해결하지 못합니다. 해석 가능성과 투명성을 구별하는 것이 중요합니다. AI 모델에서 설명 가능성이 부족한 주된 이유는 딥 뉴럴 네트워크의 블랙박스 특성 때문입니다. 우리는 추론 과정을 이해하지만, 관련된 각 매개변수의 논리적 중요성을 파악하지 못합니다.
그렇다면 블록체인 기술은 IBM의 설명 가능 AI(XAI)와 같은 기술이 제공하는 해석 가능성 개선과는 다른 방식으로 투명성을 어떻게 향상시킬까요?
설명 가능한 AI(XAI)의 맥락에서 불확실성 통계나 모델의 출력 및 기울기 분석과 같은 다양한 방법이 기능을 이해하는 데 사용됩니다. 그러나 블록체인 기술을 통합해도 AI 모델의 내부 추론 및 학습 방법은 변경되지 않으므로 해석성이 향상되지 않습니다. 그럼에도 불구하고 블록체인은 학습 데이터, 절차 및 인과 추론의 투명성을 개선할 수 있습니다. 예를 들어, 블록체인 기술은 모델 학습에 사용된 데이터를 추적하고 커뮤니티 입력을 의사 결정 프로세스에 통합할 수 있습니다. 이러한 모든 데이터와 절차는 블록체인에 안전하게 기록할 수 있으므로 AI 모델의 구성 및 추론 프로세스의 투명성이 향상됩니다.
AI 알고리즘의 편향 문제가 널리 퍼져 있다는 점을 고려할 때, 블록체인은 AI 수명 주기 전반에 걸쳐 데이터 출처와 무결성을 보장하는 데 얼마나 효과적일까요?
현재 블록체인 방법론은 AI 모델에 대한 교육 데이터를 안전하게 저장하고 제공하는 데 상당한 잠재력을 보여주었습니다. 분산 노드를 활용하면 기밀성과 보안이 강화됩니다. 예를 들어, Bittensor는 여러 노드에 데이터를 분산하고 노드 간 사기를 방지하기 위한 알고리즘을 구현하는 분산 교육 방식을 사용하여 분산 AI 모델 교육의 회복성을 높입니다. 또한 추론 중에 사용자 데이터를 보호하는 것이 가장 중요합니다. 예를 들어 Ritual은 추론 계산을 위해 오프체인 노드에 배포하기 전에 데이터를 암호화합니다.
다음도 마음에 드실 수 있습니다. Elliptic은 인공지능이 암호화폐 범죄에 새로운 차원을 더할 수 있다고 말합니다.
이 접근 방식에는 제한이 있나요?
주목할 만한 한계는 훈련 데이터에서 비롯된 모델 편향의 간과입니다. 구체적으로, 훈련 데이터에서 비롯된 성별 또는 인종과 관련된 모델 예측의 편향을 식별하는 것은 종종 무시됩니다. 현재 블록체인 기술이나 AI 모델 편향 제거 방법은 설명 가능성 또는 편향 제거 기술을 통해 편향을 효과적으로 타겟팅하고 제거하지 못합니다.
블록체인이 AI 모델 검증 및 테스트 단계의 투명성을 높일 수 있다고 생각하시나요?
Bittensor, Ritual, Santiment와 같은 회사는 블록체인 기술을 활용하여 온체인 스마트 계약을 오프체인 컴퓨팅 기능과 연결합니다. 이 통합은 온체인 추론을 가능하게 하여 데이터, 모델 및 컴퓨팅 파워 전반에 걸쳐 투명성을 보장하여 프로세스 전반에 걸쳐 전반적인 투명성을 향상시킵니다.
블록체인 네트워크에서 AI의 결정을 검증하는 데 가장 적합한 합의 메커니즘은 무엇이라고 생각하십니까?
저는 개인적으로 지분 증명(PoS)과 권한 증명(PoA) 메커니즘을 통합하는 것을 옹호합니다. 기존의 분산 컴퓨팅과 달리 AI 학습 및 추론 프로세스는 장기간에 걸쳐 일관되고 안정적인 GPU 리소스를 요구합니다. 따라서 이러한 노드의 효과성과 안정성을 검증하는 것이 필수적입니다. 현재 신뢰할 수 있는 컴퓨팅 리소스는 주로 다양한 규모의 데이터 센터에 보관되어 있는데, 소비자 등급 GPU는 블록체인에서 AI 서비스를 충분히 지원하지 못할 수 있기 때문입니다.
앞으로 AI의 투명성 문제를 극복하는 데 있어 블록체인 기술의 어떤 창의적인 접근 방식이나 발전이 중요할 것으로 예상하십니까? 또한, 이러한 접근 방식이나 발전이 AI의 신뢰와 책임에 대한 환경을 어떻게 바꿀 수 있을까요?
저는 현재 블록체인 기반 AI 애플리케이션에서 모델 편향 제거와 데이터 간의 관계를 해결하고 블록체인 기술을 활용하여 블랙박스 공격을 탐지하고 완화하는 것과 같은 여러 과제를 봅니다. 저는 커뮤니티가 모델 해석 가능성에 대한 실험을 수행하도록 인센티브를 제공하고 AI 모델의 투명성을 강화하는 방법을 적극적으로 모색하고 있습니다. 또한 블록체인이 AI를 진정한 공공재로 전환하는 데 어떻게 도움이 될 수 있는지 고민하고 있습니다. 공공재는 투명성, 사회적 혜택, 공공 이익에 대한 서비스로 정의됩니다. 그러나 현재 AI 기술은 종종 실험적 프로젝트와 상용 제품 사이에 존재합니다. 가치를 인센티브하고 분배하는 블록체인 네트워크를 사용함으로써 AI의 민주화, 접근성 및 분산화를 촉진할 수 있습니다. 이 접근 방식은 잠재적으로 실행 가능한 투명성을 달성하고 AI 시스템에서 더 큰 신뢰성을 촉진할 수 있습니다.
더 읽어보세요: 바이낸스, 웹3 교육 강화를 위해 인공지능(AI) 활용
