보이지 않는 디자인이 피해를 만든다

실제 세계에서 건축가의 역할을 생각해 보세요. 건축가는 집주인의 결정에 따라 누가 집에 초대되는지에 대해 책임을 지지 않습니다. 또한 세입자가 공간을 어떻게 사용하는지에 대한 책임도 없습니다. 그러나 건축가는 무너지지 않고, 화재로 인해 사람이 갇히지 않으며, 물리적 형태의 결함으로 인해 인명 피해가 발생하지 않는 구조를 설계할 책임이 있습니다. 하중을 견디는 계산이 정확해야 합니다. 지붕은 새지 않아야 합니다. 벽은 외부 위험으로부터 거주자를 보호해야 합니다. 이는 구조적 의무입니다. 이는 건물을 누가 사용하느냐에 따라 달라지는 것이 아니라 건물이 안전하게 기능하는 데 필수적인 요소입니다.

이 비유에서 소유자가 키 카드를 설치하거나 권한을 할당하는 디지털 방식은 부주의한 디지털 액세스에서 정의한 내용을 반영합니다.^TM[1] (NDA¹). 이는 로그인, 확인 또는 인증 프로토콜과 같은 액세스 계층 제어입니다. 누가 어떤 조건으로 출입할 수 있는지 결정합니다. 그러나 건물 자체가 구조적으로 안전하지 않아 창문이 작동하지 않거나, 정상적인 사용 상태에서 방이 붕괴되거나, 건물의 특정 부분에 들어가면 피할 수 있는 위험에 노출되는 경우라면 사용자나 액세스 정책이 아니라 건축가에게 잘못이 있는 것입니다.

이것이 바로 네거티브 디지털 아키텍처(NDA²)가 파악하는 것입니다. 플랫폼은 실패할 것으로 알려진 시스템으로 구축되고 있습니다. 디지털 환경이 피싱 사기를 허용하고, 전화 스푸핑을 허용하며, 합법적인 사용자 활동을 아무런 제재 없이 적극적으로 억제한다면, 이는 단순한 조정 선택이 아닙니다. 이는 예견된 위험을 반영한 설계 결함입니다. 자동차 제조업체가 예측 가능한 조건에서 고의로 고장 나는 시스템을 갖춘 차량을 출시할 경우 책임을 지는 것처럼, 디지털 플랫폼도 동일한 기준에 따라 책임을 져야 합니다. 여기서 발생하는 피해는 추측이 아닙니다. 이는 그 결과를 충분히 인지하고 내린 아키텍처 선택의 결과입니다.

이러한 책임은 건물의 관리자에게 있으며, 디지털 시스템에서는 우리가 매일 사용하는 플랫폼을 설계하고 배포하는 회사에게도 있습니다.

현대 인터넷은 점점 더 콘텐츠가 아닌 아키텍처에 의해 지배되고 있습니다. 사용자가 취하는 모든 행동은 액세스, 표현, 신뢰의 경험을 정의하는 수조 달러 규모의 기업이 설계한 시스템을 통해 전달됩니다. 이러한 시스템은 중립적이지 않습니다. 이러한 시스템은 일상적으로 사용자를 오도하고 진실을 억압하며 피해를 유발하는 방식으로 구조화, 확장, 수익화됩니다.[2]. 과실 디지털 아키텍처(NDA²) 이론은 이러한 구조적 결정을 디지털 피해의 핵심 벡터로 파악합니다.

눈에 보이는 중재나 정책 집행과 달리 NDA²는 조용히 작동합니다. 알림, 설명, 관여를 하지 않습니다. 그저 누락, 지연, 잘못된 방향으로 피해가 발생하도록 방치한 다음 구축한 시스템을 신뢰한 사용자에게 책임을 전가합니다.

이 이론은 플랫폼이 권한이 없는 행위자가 허위 또는 권한을 가장하여 사용자와 상호작용하는 것을 허용하는 방식을 분석하는 NDA¹의 기본 프레임워크를 기반으로 합니다. 이 이론은 접근을 피해 벡터로 간주하여 접근 허용 또는 거부 결정과 플랫폼 설계가 사칭, 조작, 무단 접근을 허용하는 방식에 초점을 맞추고 있습니다. 이 이론은 상호 작용의 순간부터 피해가 생성되고 강화되는 계층화된 인프라인 디지털 스택의 개념을 도입했습니다.

NDA²는 구조가 해를 입히고, 침묵이 준수를 강제하며, 규칙을 따르는 사람에게만 규칙이 적용되는 모순의 구조입니다. 피해는 추상적이지 않습니다. 그것은 체계적입니다. 알려져 있습니다. 그리고 예방할 수 있습니다.

이는 나쁜 콘텐츠나 나쁜 행위자만의 문제가 아닙니다. 이는 알려진 사기가 지속되는 동시에 전문성을 침묵시키는 시스템에 관한 문제입니다.[3]. 사기꾼이 플랫폼의 신원을 도용하여 피싱 메시지를 아무런 제한 없이 보낼 수 있는 반면, 검증된 전문가의 약력이 성적 학대 및 위법 행위에 대한 정확한 용어를 사용하는 것을 조용히 억제하는 것은 플랫폼이 실패하는 것 이상의 역할을 합니다. 잘못된 대상을 성문화하는 것입니다. 잘못된 대응을 제도화합니다. 그리고 보호를 가장한 해악을 작동시킵니다.

이론적 프레임워크: NDA²와 NDA¹ 및 부주의한 데이트 비교

NDA²는 부주의한 채용에 대응하는 NDA¹가 마련한 토대 위에 구축됩니다. NDA¹는 부적절한 심사 또는 자격 증명을 통해 사용자에 액세스하는 확인되지 않거나 악의적인 행위자 등 진입 지점에서의 실패를 강조하여 시스템 접근이 허용되는 사람에 초점을 맞추고 있습니다.

반면 NDA²는 시스템이 일단 진입한 후 허용하는 것에 초점을 맞춥니다. 이는 결함이 있는 제품 설계와 직결됩니다. 시스템은 작동하고 액세스 포인트가 부여되었지만 플랫폼 내에서 펼쳐지는 일은 예측 가능하게 해를 끼칠 수 있는 아키텍처에 의해 통제됩니다.

이 이론은 과실 감독과 비슷한 개념인 과실 데이트와도 구분됩니다. 과실 데이트는 안전에 대한 프로토콜, 심사 구조, 책임 모델이 전혀 없는 설계 프레임워크가 없는 플랫폼을 다룹니다. 아키텍처의 부재가 곧 구조입니다. 그러나 NDA²에서는 예측 가능한 조건에서 실패하도록 설계되거나, 사용자를 오도하고 플랫폼의 책임을 회피하는 방식으로 선택적으로 시행되도록 설계된 구조가 존재할 뿐입니다.

헤릭 대 그린드르 사건에서 발전된 법적 전략[4] 는 이러한 논리를 반영합니다. 이 소송의 원고는 Grindr가 유해한 콘텐츠를 게시했다고 주장한 것이 아니라 50건 이상의 신고 이후에도 사칭, 괴롭힘, 스토킹이 계속될 수 있도록 Grindr의 제품 설계가 허용했다고 주장했습니다. 이러한 피해는 사용자가 생성한 것이 아니라 시스템이 허용한 것이었습니다. 이 소송은 230조에 따라 기각되었지만, 콘텐츠뿐만 아니라 플랫폼 아키텍처도 책임의 원인이 될 수 있다는 새로운 주장의 문을 열었습니다.

NDA²는 이러한 주장을 공식화하고 발전시킵니다. 다음과 같이 명시합니다:

이러한 법적 진화는 다음에서 볼 수 있듯이 헤릭 대 그린드르는 피해를 콘텐츠가 아닌 제품 설계의 결과로 보는 프레임의 변화를 보여줍니다. NDA²는 이러한 토대 위에 구축되었지만 한 걸음 더 나아가 단순히 피해가 발생하도록 허용되었다고 주장하지 않습니다. 위험성이 내재되어 있다고 주장합니다.

다른 업계에서는 구조적 실패로 분류될 수 있는 사안입니다.

ISO 26262와 같은 물리적 제품에 대한 국제 안전 표준이 확립되어 있습니다.[5] 자동차 부문 또는 ISO 9001[6] 품질 관리를 위한 시스템입니다. 이러한 시스템은 실패가 보장되기 때문에 존재하는 것이 아니라 다음과 같은 이유로 존재합니다. 예측 가능. 자동차는 판매되기 전에 구조적 무결성 테스트를 통과해야 합니다. 알려진 결함이 사용자를 위험에 빠뜨릴 수 있는 제품이라면 시장에 출시해서는 안 됩니다. 사후 대응이 아니라 설계 단계에서 위험을 예방해야 합니다.

하지만 디지털 환경에서는 이러한 표준이 존재하지 않습니다. 플랫폼은 아키텍처 안전 요구 사항 없이도 전 세계에 배포할 수 있습니다. 어떤 인증 기관도 출시 전에 구조적 건전성에 대한 증명을 요구하지 않습니다. 그럼에도 불구하고 이러한 플랫폼은 지금까지 판매된 어떤 단일 제품보다 더 많은 영향을 미치며 행동, 정체성, 생계, 안전에 영향을 미치고 있습니다.

이러한 감독 부재가 바로 NDA²가 드러내는 문제입니다. 단순히 피해의 존재 여부가 아니라 그 피해의 예측 가능성, 그리고 플랫폼의 구조 공개 결정이 문제입니다.

CE 마크와 마찬가지로[7] 는 제품이 시장에 출시되기 전에 최소한의 유럽 안전 기준을 충족하도록 보장하며, 디지털 시스템도 이와 동등한 수준의 아키텍처 책임 기준을 준수해야 합니다. NDA²는 플랫폼을 무해한 용기로 취급하는 것을 멈추고 침묵, 억제, 스푸핑이 불행한 부작용이 아니라 부주의한 설계로 인한 결과라는 것을 인식할 것을 요구합니다.

실제 건축의 위험성: 설계가 위험을 성문화하는 방법

이 이론이 다루는 피해는 이론적인 것이 아닙니다. 사용자를 보호한다고 주장하는 시스템 전반에서 매일 일어나고 있습니다.

검증된 전문가가 성적 학대 및 기관의 위법 행위에 대한 정확한 표현이 포함된 전문 전기를 게시하려고 했는데 해당 콘텐츠가 예고 없이 조용히 삭제되는 경우, 이는 콘텐츠 위반이 아니라 투명성 없이 과도하게 강제하도록 구축된 시스템의 결과입니다. 사용자는 잘못한 것이 없습니다. 아키텍처는 통지 대신 모호함을 선택했습니다.

같은 사용자가 콘텐츠가 숨겨져 있는 정확한 시기에 플랫폼 지원을 사칭한 피싱 메시지를 받으면 메시지의 신뢰성 때문이 아니라 플랫폼 자체가 혼란을 야기했기 때문에 사기는 효과를 발휘하게 됩니다. 사칭자는 그 틈새를 노립니다. 시스템이 사기를 믿을 수 있게 만든 것입니다.

위기에 처한 사용자가 화재 복구, 자물쇠 수리, 항공사 지원 등을 검색했는데 검색 결과 상단에 사기성 콜센터가 표시되고 합법적인 업체는 묻혀 버리는 것은 콘텐츠 관리의 문제가 아닙니다. 수익 창출을 위한 설계입니다. 이 시스템은 검증 및 공공 보호를 통해 광고 수익과 게재 위치를 보상합니다.

이러한 피해는 우발적인 것이 아닙니다. 이러한 피해는 의도적으로 지속되도록 허용되었습니다.

책임과 사용자 탓의 오류

NDA²는 남용이 발생하는 순간에만 피해가 발생한다는 이론이 아닙니다. 직접적인 피해가 발생하기 훨씬 전에 남용을 불가피하게 만드는 시스템적 설계 결정에 관한 것입니다. 콘텐츠 또는 모더레이션 타임라인에만 뿌리를 둔 플랫폼 책임 모델에서 벗어나는 부분입니다.

연방 통합 소송에서 관련: Uber Technologies, Inc. 승객 성폭행 소송[8] (MDL 번호 3084)에서 1,600명 이상의 원고는 Uber의 플랫폼 설계가 위험을 인지했음에도 불구하고 적절한 운전자 선별 및 앱 내 응급 기능 등 적절한 안전 조치를 시행하지 않았다고 주장합니다. 마찬가지로 Lyft Inc 파생상품 소송 관련[9]주주들은 리프트의 경영진이 승객 안전을 소홀히 했다고 비난했고, 결국 안전 프로토콜과 거버넌스 개혁을 강화하겠다는 약속이 포함된 합의를 이끌어냈습니다. 이러한 누락은 안전 프레임워크, 심사 구조 및 사용자 보호의 부재 등 일반적으로 네거티브 데이트와 관련된 특징들을 강조합니다.

NDA²는 이러한 논리를 발전시킵니다. 중립적이거나 보호적인 발언을 적극적으로 단속하면서도 이러한 실패를 체계적으로 허용하는 방식으로 플랫폼의 구조가 구축되면 설계 자체가 책임의 원천이 된다는 점을 명확히 합니다. 문제는 단순히 플랫폼이 삭제하지 못하는 것이 아니라 플랫폼이 허용, 무시 또는 인센티브를 제공하도록 설계된 것입니다.

이러한 결함은 안전을 위한 구축 실패를 강조하지만, NDA²는 단순히 설계의 부재가 아니라 예측 가능한 남용을 허용하는 설계 선택이 존재한다는 점에서 뚜렷한 해악을 확인합니다. 과실은 단순히 누락에만 있는 것이 아니라 반복적인 사기, 사칭, 억압, 지연 또는 부재에 대한 대응이 지속되도록 체계적으로 허용하는 구조에 있습니다. 피해의 메커니즘이 되는 것은 바로 시스템의 구조 그 자체입니다.

남용은 접촉 지점에서 시작되지 않는다는 점에서 간단하지만 근본적인 차이가 있습니다. 학대는 애초에 그 접촉을 가능하게 한 설계 선택과 이를 둘러싼 시스템의 침묵에서 시작됩니다.

비가 새는 지붕을 만들면 비가 오면 건물 내부로 물이 들어온다는 것을 알 수 있습니다. 천장이 손상되고 바닥이 휘어지며 곰팡이가 생기고 건물 전체의 무결성이 손상될 수 있다는 것을 알고 계실 것입니다. 이것은 놀라운 일이 아닙니다. 설계 결함으로 인한 예상 가능한 결과입니다. 하지만 디지털 맥락에서 플랫폼은 시스템이 새는 지붕으로 지어졌다는 사실을 인정하기보다는 마치 '강우 자체', 즉 포식자, 악용자, 사기꾼, 사칭, 피싱 링크가 사용자가 감당해야 할 부담인 것처럼 주장합니다.

이것이 NDA²의 핵심적인 차별점입니다. 스푸핑 가능한 통신, 인증되지 않은 권한 신호, 불투명한 중재 시스템 등 알려진 취약점을 가진 기술 스택이 구축되면 그에 따른 피해는 부수적인 것이 아닙니다. 이는 설계부터 설계된 것입니다. 사용자에게 '당했다'고 책임을 돌리는 것은 솔직하지 못할 뿐만 아니라 부주의한 태도입니다.

다른 어떤 산업에서도 정상적이고 예측 가능한 조건에서 고장이 발생하는 구조를 용인하고 그 고장을 거주자의 책임이라고 변명하지 않습니다. 그러나 디지털 아키텍처에서는 플랫폼이 설계 로직에 대한 책임을 날씨, 사용자 또는 공격자에게 돌리는 대신 자신이 설계하고 수정하지 못한 유출을 지적함으로써 책임을 회피합니다.

앞으로 나아갈 길: 인프라 시대의 책임성

우리는 건물이 무너지고 그 안에 있는 사람들을 비난하는 것을 허용하지 않습니다. 브레이크 결함이 알려진 차량이 도로에 머무르는 것을 허용하지 않습니다. 우리는 전자 및 소프트웨어 시스템을 갖춘 자동차가 자동차 환경에서의 기능 안전을 의무화하는 ISO 26262와 같은 엄격한 안전 프로토콜을 준수하여 차량이 운전자에게 도달하기 훨씬 전에 결함을 식별하고 해결하도록 요구합니다.

어린이 장난감의 안전 테스트를 우회하는 것은 허용되지 않습니다. 배선 결함으로 인해 화재가 발생하는 가전제품은 용납하지 않습니다. 다른 모든 분야에서 제품 안전은 사후 고려 사항이 아니라 전제 조건입니다. 그러나 아키텍처가 신원, 커뮤니케이션, 신뢰를 지배하는 디지털 시스템에서는 이에 상응하는 보호 장치가 존재하지 않습니다.

여러 산업 분야의 ISO 및 CE 표준 준수 여부를 감사하는 글로벌 인증 기관의 비즈니스 부문에서 일하면서 엄격하고 표준화된 설계 검토가 소비자를 보호하는 방법, 즉 오늘날 디지털 아키텍처에는 전혀 없는 책임 모델을 명확하게 이해할 수 있게 되었습니다.

인터페이스 안전에 대한 ISO 인증이 없습니다. 플랫폼 설계에 대한 CE 마크가 없습니다. 알고리즘 로직에 대한 UL 검토가 없습니다. 플랫폼은 출시 전에 필요한 구조적 검토 없이도 전 세계적으로 확장할 수 있고, 사기를 가능하게 하며, 진실을 은폐하고, 사용자를 위험에 빠뜨릴 수 있습니다.

그리고 디지털 구조의 모든 부분이 중요합니다. 물리적 세계에서는 타카타 에어백 참사[10] 는 수십 개의 자동차 모델에 사용된 하나의 부품 결함으로 인해 역사상 최대 규모의 자동차 리콜, 다수의 사망자, 회사의 완전한 재정 파탄으로 이어졌다는 사실을 상기시켜 줍니다. 결함은 자동차 전체가 아니라 고장이 허용된 임베디드 시스템 하나에 있었습니다. 알려진 위험은 결코 중립적이지 않기 때문에 모든 부품을 면밀히 조사해야 한다는 것이 우리가 다른 곳에서도 받아들이는 표준입니다.

그러나 기술 분야에서는 이러한 결함이 규제되지 않을 뿐 아니라 종종 수익화되기도 합니다. 전체 비즈니스 모델

 도 등장했습니다:

• 허위 정보, 조작 또는 사기에 대한 보상을 제공하는 플랫폼 구조를 통해 직접적으로 피해를 입히는 경우, 또는
• 평판 손상을 복구하거나 애초에 허용되어서는 안 되는 유해한 콘텐츠를 삭제하기 위해 사용자에게 비용을 청구합니다.[11].

부주의한 디지털 아키텍처의 예측 가능한 실패로부터 산업 전체가 생겨났습니다. 피해의 여파가 무작위적인 오용이 아니라 구조적 설계 결함에서 비롯되었다는 분명한 지표가 있는 피해의 여파에서 이익을 얻기 위해 특별히 설립된 기업들입니다.

이러한 비즈니스 모델은 취약한 시스템을 통해 유출된 데이터에 대한 개인정보 보호, 스푸핑 또는 사칭에 따른 평판 복구, 이미 피해가 발생한 후에야 콘텐츠 삭제 등의 서비스를 제공하는 데 의존합니다.

이러한 각 서비스는 아키텍처가 실패했기 때문에 존재합니다. 이러한 서비스는 솔루션이 아니라 예방 가능한 알려진 실패에 대한 시장의 대응책입니다. 그리고 이러한 서비스들은 모두 과실 디지털 아키텍처(NDA²) 고장.

이는 안전장치가 아닙니다. 애초에 시스템이 보호하지 못한 바로 그 사용자에게 다시 판매되는 서비스, 즉 아키텍처의 실패에 대한 애프터마켓 구제책입니다.

그러나 기술 분야에서는 예측 가능성, 경고 실패, 설계 결함, 측정 가능한 피해 등 기존의 모든 기준을 충족함에도 불구하고 이러한 실패를 제조물 책임으로 취급하는 법적 원칙이 없습니다.

유해한 콘텐츠를 소급하여 삭제하는 것만으로는 충분하지 않습니다. 스푸핑 가능한 통신, 조용한 억제 또는 불투명한 집행과 같은 구조적 취약성을 충분히 인지한 상태에서 플랫폼을 배포하면 피해는 우발적인 것이 아닙니다. 그것은 설계된 것입니다. 그리고 이는 중재 실패가 아니라 설계 결함으로 취급되어야 합니다.

NDA²는 근본적인 변화를 요구합니다:

• 사후 대응적 중재에서 구조적 책임까지.
• 사용자 탓부터 시스템 인증까지.
• 플랫폼 면책에서 제조물 책임까지, 플랫폼이 번창할 수 있는 구조로 인해 피해가 발생하는 경우.

모델은 이미 존재합니다. 건물 코드. 자동차 안전 프로토콜. 소비자 제품 규정. 모두 위험을 알면 피해를 예방할 수 있다는 생각에 기반을 두고 있습니다. 인터넷도 더 이상 그 규칙의 예외가 되어서는 안 됩니다.

구조가 해악입니다. 그리고 법 체계는 새로운 원칙을 발명하는 것이 아니라 이미 존재하는 원칙을 적용하는 방향으로 진화해야 합니다.

우리는 이를 제조물 책임이라고 부릅니다. 설계 결함으로 인해 예측 가능한 피해가 발생했을 때 책임을 묻기 위해 존재합니다. 이제는 이러한 기준을 우리 삶을 지배하는 디지털 구조로 확장해야 할 때입니다. 이러한 플랫폼은 무형적이라고 해서 예외가 아닙니다. 플랫폼은 제품입니다. 시스템입니다. 그리고 그들은 설계상 실패하고 있습니다.

규모가 핑계가 될 수 없기 때문입니다. 침묵은 방패가 될 수 없습니다. 그리고 플랫폼만이 의도적으로 대중에게 해를 끼치는 것을 허용하는 유일한 산업이 될 수는 없습니다.

구조가 해악입니다. 이제 책임을 물어야 할 때입니다.

인용 및 속성

APA(7판):

Starr, K. (2025). 부주의한 디지털 아키텍처: 플랫폼 설계가 해악을 성문화하는 방법. 케이스타 엔터프라이즈, LLC. https://www.katherinestarr.com/negligent-digital-architecture/

MLA(9판):

스타, 캐서린. 부주의한 디지털 아키텍처: 플랫폼 설계가 피해를 체계화하는 방법. 케이스타 엔터프라이즈, LLC, 2025. www.katherinestarr.com/negligent-digital-architecture/.

블루북(법률):

캐서린 스타, 부주의한 디지털 아키텍처: 플랫폼 설계가 피해를 체계화하는 방법, 케이스타 엔터프라이즈, LLC (2025), https://www.katherinestarr.com/negligent-digital-architecture/.

과실 디지털 아키텍처™를 소송 원인으로 적용한 Starr v. Google LLC, 불만, 1:25-cv-01216-RP(2025년 8월 5일, 텍사스주 서부지방법원 제기)도 참조하세요.

인용

[1] Starr, K. (2025). 부주의한 디지털 액세스: 플랫폼 설계가 해를 끼칠 수 있는 경우. 케이스타 엔터프라이즈, LLC. https://www.katherinestarr.com/negligent-digital-access/

[2] Pasquale, F. (2015). 블랙박스 사회: 돈과 정보를 통제하는 비밀 알고리즘. 하버드 대학 출판부.

[3] Citron, D. K. (2014). 사이버 공간에서의 증오 범죄. 하버드 대학 출판부.

[4] 헤릭 대 그린드르 LLC, 765 F. App'x 586 (2d Cir. 2019).

[5] 국제 표준화기구. (2018). ISO 26262: 도로 차량 - 기능적 안전. 스위스 제네바: ISO.

[6] 국제 표준화기구. (2015). ISO 9001: 품질 관리 시스템 - 요구 사항. 스위스 제네바: ISO.

[7] 유럽위원회. (nd). CE 마크 - 적합성 평가. 에서 검색 https://ec.europa.eu/growth/single-market/ce-marking_en

[8] 우버 테크놀로지스, 승객 성폭행 소송 (MDL 번호 3084, N.D. Cal. 2023)

[9] Lyft Inc. 파생 소송No. CGC-20-584549(캘리포니아주 수퍼카운티, 샌프란시스코 카운티, 2020년 2월 19일 접수)

[10] 미국 도로교통안전국(NHTSA). (2023). 타카타 에어백 리콜. 미국 교통부. https://www.nhtsa.gov/equipment/takata-recall-spotlight

[11] Zuboff, S. (2019). 감시 자본주의의 시대: 권력의 새로운 경계에서 인간의 미래를 위한 싸움. PublicAffairs.