Het onzichtbare ontwerp dat schade vormgeeft

Denk eens aan de rol van een architect in de fysieke wereld. Een architect is niet verantwoordelijk voor wie er wordt uitgenodigd in een huis, dat is de beslissing van de eigenaar. Hij is ook niet verantwoordelijk voor hoe een huurder de ruimte gebruikt. Maar de architect is wel verantwoordelijk voor het ontwerpen van een constructie die niet instort, waarin niemand in een brand verstrikt raakt en waarin geen schade kan ontstaan door een fout in de fysieke vorm. De draagkrachtberekeningen moeten kloppen. Het dak mag niet lekken. De muren moeten de bewoners beschermen tegen schade van buitenaf. Dit zijn structurele verplichtingen. Ze zijn niet afhankelijk van wie het gebouw gebruikt, maar zijn essentieel voor het veilig functioneren van het gebouw.

In deze analogie weerspiegelt het digitale equivalent van de eigenaar die keycards installeert of rechten toekent, wat we definiëren in Negligent Digital Access^TM[1] (NDA¹). Dit zijn toegangslaagcontroles zoals logins, verificatie of authenticatieprotocollen. Ze bepalen wie er in mag en onder welke voorwaarden. Maar als het gebouw zelf structureel ondeugdelijk is, als de ramen niet werken, als een kamer instort bij normaal gebruik, als het betreden van een bepaald deel van het gebouw je blootstelt aan vermijdbaar gevaar, dan ligt de fout bij de architect, niet bij de gebruiker of het toegangsbeleid.

Dit is wat Negligent Digital Architecture (NDA²) vaststelt. Platformen worden gebouwd met systemen waarvan bekend is dat ze falen. Als een digitale omgeving phishing scams toestaat, telefoonspoofing toestaat en actief legitieme gebruikersactiviteiten onderdrukt zonder verhaal te halen, dan zijn dat niet simpelweg moderatiekeuzes. Het zijn ontwerpfouten die een voorzien risico weerspiegelen. Net zoals autofabrikanten aansprakelijk worden gesteld voor het bewust uitbrengen van voertuigen met systemen die falen onder voorzienbare omstandigheden, moeten digitale platforms aan dezelfde standaard worden gehouden. De schade is hier niet speculatief. Het is het resultaat van architecturale keuzes die zijn gemaakt met volledige kennis van de gevolgen ervan.

Die verantwoordelijkheid ligt bij het beheer van het gebouw en, bij digitale systemen, bij de bedrijven die de platforms ontwerpen en inzetten die we elke dag gebruiken.

Het moderne internet wordt in toenemende mate niet alleen bepaald door de inhoud, maar door de architectuur. Elke actie die een gebruiker onderneemt wordt geleid door systemen die ontworpen zijn door miljardenbedrijven wiens producten de ervaring van toegang, expressie en vertrouwen bepalen. Deze systemen zijn niet neutraal. Ze zijn zo gestructureerd, geschaald en gemonetariseerd dat ze gebruikers routinematig misleiden, de waarheid onderdrukken en uitnodigen tot schade...[2]. De theorie van Negligent Digital Architecture (NDA²) identificeert deze structurele beslissingen als een centrale vector van digitale schade.

In tegenstelling tot zichtbare handelingen van moderatie of beleidshandhaving, werkt NDA² in stilte. Er wordt geen melding gemaakt, uitleg gegeven of actie ondernomen. Het laat gewoon toe dat er schade optreedt door weg te laten, door vertraging, door misleiding en geeft vervolgens de gebruiker de schuld voor het vertrouwen in het systeem dat het gebouwd heeft.

Deze theorie bouwt voort op het basisraamwerk van NDA¹, dat analyseert hoe platformen onbevoegde actoren in staat stellen om onder valse voorwendselen of met valse autoriteit met gebruikers te communiceren. In die theorie staat toegang centraal als de schadedrager, waarbij de nadruk ligt op de beslissing om toegang te verlenen of te weigeren en hoe het ontwerp van platforms imitatie, manipulatie en ongeautoriseerd bereik mogelijk maakt. Het introduceerde het concept van de digitale stapel, een gelaagde infrastructuur waar schade wordt gecreëerd en versterkt vanaf het moment van interactie.

NDA² is de architectuur van tegenstrijdigheid: waar structuur schade mogelijk maakt, stilte naleving afdwingt en de regels alleen gelden voor degenen die ze volgen. De schade is niet abstract. Het is systemisch. Het is bekend. En het is te voorkomen.

Dit gaat niet alleen over slechte inhoud of slechte actoren. Het gaat om een systeem dat bekende fraude laat voortbestaan en deskundigheid het zwijgen oplegt.[3]. Wanneer oplichters de identiteit van een platform mogen vervalsen en onbeperkt phishingberichten mogen versturen, terwijl de biografie van een geverifieerde expert stilzwijgend wordt onderdrukt omdat hij accurate terminologie gebruikt over seksueel misbruik en wangedrag, dan doet het platform meer dan alleen maar misgrijpen. Het codificeert het verkeerde doelwit. Het institutionaliseert de verkeerde reactie. En het maakt schade operationeel onder het mom van bescherming.

Theoretisch kader: NDA² vergeleken met NDA¹ en Negligent Dating

NDA² bouwt voort op het fundament van NDA¹, dat is afgestemd op nalatige indienstneming. NDA¹ richt zich op wie wordt toegelaten tot het systeem, waarbij de nadruk ligt op fouten bij de toegang, zoals niet-geverifieerde of kwaadwillende actoren die toegang krijgen tot gebruikers door onvoldoende screening of credentialing.

NDA², daarentegen, richt zich op wat het systeem toestaat zodra toegang heeft plaatsgevonden. Er wordt een directe lijn getrokken naar een gebrekkig productontwerp: het systeem functioneert, het toegangspunt is toegekend, maar wat zich binnen het platform ontvouwt wordt bepaald door een architectuur die voorspelbaar schade mogelijk maakt.

Deze theorie onderscheidt zich ook van Negligent Dating, dat parallel loopt aan nalatig toezicht. Negligent Dating richt zich op platformen die helemaal geen ontwerpkader hebben, geen protocollen voor veiligheid, geen doorlichtingsstructuur, geen verantwoordingsmodel. De afwezigheid van architectuur is de architectuur. In NDA² is er wel structuur aanwezig, maar deze is alleen ontworpen om te falen onder voorzienbare omstandigheden, of erger nog, om selectief te handhaven op manieren die gebruikers misleiden en platforms afschermen van aansprakelijkheid.

De juridische strategie in Herrick v. Grindr[4] komt overeen met deze logica. De eiser in die zaak beweerde niet dat Grindr schadelijke inhoud publiceerde, hij beweerde dat het productontwerp van Grindr het mogelijk maakte dat imitatie, intimidatie en stalking door konden gaan na meer dan 50 meldingen. De schade was niet door de gebruiker gegenereerd; het was toegestaan door het systeem. Hoewel de zaak werd afgewezen onder Sectie 230, opende het de deur naar een nieuw argument: dat de architectuur van het platform, en niet alleen de inhoud, de bron van aansprakelijkheid kan zijn.

NDA² formaliseert en bevordert dat argument. Het stelt:

Deze juridische evolutie, zoals te zien in Herrick tegen Grindrillustreert een verschuiving in het framen van schade - niet als inhoud, maar als gevolg van productontwerp. NDA² bouwt voort op dit fundament maar gaat nog een stap verder: het stelt niet alleen dat schade kon ontstaan. Het stelt dat schade ingebouwd was.

In elke andere bedrijfstak zou dit worden geclassificeerd als een structurele fout.

Er bestaan internationale veiligheidsnormen voor fysieke producten zoals ISO 26262.[5] in de automobielsector of ISO 9001[6] voor kwaliteitsmanagement. Deze systemen bestaan niet omdat falen gegarandeerd is, maar omdat het te verwachten. Een auto moet een structurele integriteitstest doorstaan voordat hij verkocht mag worden. Een product mag niet op de markt komen als de gebreken ervan de gebruiker in gevaar kunnen brengen. Schade wordt voorkomen op het niveau van het ontwerp, niet alleen achteraf.

Maar in de digitale omgeving bestaat zo'n standaard niet. Platforms kunnen wereldwijd worden ingezet zonder architecturale veiligheidseisen. Geen certificeringsinstantie eist bewijs van structurele degelijkheid voor de lancering. En toch beïnvloeden deze platformen gedrag, identiteit, levensonderhoud en veiligheid aantoonbaar met een groter bereik dan welk product dan ook dat ooit verkocht is.

Deze afwezigheid van toezicht is wat NDA² blootlegt. Het is niet simpelweg de aanwezigheid van schade, maar de voorspelbaarheid van die schade en de beslissing van het platform om de structuur toch vrij te geven.

Net als de CE-markering[7] garandeert dat een product voldoet aan minimale Europese veiligheidscriteria voordat het op de markt komt, moeten digitale systemen worden gehouden aan gelijkwaardige normen van architecturale verantwoordelijkheid. NDA² eist dat we stoppen met het behandelen van platformen als onschadelijke containers en ze gaan erkennen als ontworpen omgevingen waar stilte, onderdrukking en spoofing geen ongelukkige bijwerkingen zijn, maar het resultaat van nalatig ontwerp.

Architectonische schade in actie: Hoe ontwerp risico's codificeert

De schade die deze theorie aanpakt is niet theoretisch. Ze doen zich dagelijks voor in systemen die gebruikers beweren te beschermen.

Wanneer een geverifieerde expert een professionele biografie probeert te publiceren die accurate taal bevat over seksueel misbruik en institutioneel wangedrag, en die inhoud wordt stilletjes onderdrukt zonder kennisgeving, dan is dit geen schending van de inhoud, maar het resultaat van een systeem dat gebouwd is om overmatig te handhaven zonder transparantie. De gebruiker heeft niets verkeerd gedaan. De architectuur koos ervoor om te verdoezelen in plaats van te melden.

Wanneer diezelfde gebruiker een phishing-bericht ontvangt dat zich voordoet als platformondersteuning tijdens het exacte venster waarin hun inhoud verborgen is, wordt de zwendel effectief, niet omdat het bericht geloofwaardig is, maar omdat het platform zelf verwarring heeft gezaaid. De imitator stapt in het vacuüm. Het systeem heeft de fraude geloofwaardig gemaakt.

Wanneer een gebruiker in crisis zoekt naar brandherstel, hulp van een slotenmaker of ondersteuning van een luchtvaartmaatschappij en bovenaan de zoekresultaten frauduleuze callcenters te zien krijgt terwijl legitieme bedrijven onder de grond liggen, dan is dat geen inhoudelijke vergissing. Het is een monetair ontwerp. Het systeem beloont advertentie-inkomsten en plaatsing boven validatie en bescherming van het publiek.

Deze schade was niet toevallig. Ze konden blijven bestaan door opzet.

Aansprakelijkheid en de denkfout om de gebruiker de schuld te geven

NDA² is geen theorie over schade die alleen optreedt op het moment van misbruik. Het gaat over de systemische ontwerpbeslissingen die misbruik onvermijdelijk maken lang voordat er sprake is van directe schade. Dit is waar het afwijkt van platformaansprakelijkheidsmodellen die alleen geworteld zijn in de tijdslijnen voor inhoud of moderatie.

In de geconsolideerde federale rechtszaken Uber Technologies, Inc., rechtszaak over seksueel misbruik door passagiers[8] (MDL nr. 3084) beweren meer dan 1.600 eisers dat het ontwerp van het platform van Uber geen adequate veiligheidsmaatregelen heeft geïmplementeerd, zoals een goede screening van bestuurders en functies voor noodgevallen in de app, ondanks dat ze zich bewust waren van de risico's. Ook in Inzake Lyft Inc afgeleide rechtszaken[9]beschuldigden aandeelhouders de leiding van Lyft van het verwaarlozen van de veiligheid van passagiers, wat leidde tot een schikking met toezeggingen om de veiligheidsprotocollen te verbeteren en het bestuur te hervormen. Deze nalatigheden benadrukken kenmerken die typisch geassocieerd worden met Negligent Dating™: een gebrek aan veiligheidskaders, doorlichtingsstructuren en gebruikersbescherming.

NDA² bevordert die redenering. Het verduidelijkt dat wanneer de structuur van een platform zodanig is opgebouwd dat deze fouten systematisch worden toegestaan, zelfs wanneer er actief wordt toegezien op neutrale of beschermende uitingen, het ontwerp zelf de bron van aansprakelijkheid wordt. Het gaat niet alleen om wat het platform niet verwijdert, maar om wat het ontworpen is om toe te staan, te negeren of te stimuleren.

Terwijl deze tekortkomingen een gebrek aan veiligheidsgericht bouwen onderstrepen, identificeert NDA² een andere schade: het is niet simpelweg de afwezigheid van ontwerp, maar de aanwezigheid van ontwerpkeuzes die voorspelbaar misbruik mogelijk maken. De nalatigheid zit hem niet alleen in het nalaten, maar in de architectuur die systematisch herhaalde zwendel, imitaties, onderdrukkingen en vertraagde of afwezige verhaalsmogelijkheden mogelijk maakt. Het is de structuur van het systeem zelf die het mechanisme van schade wordt.

Het onderscheid is eenvoudig maar fundamenteel: het misbruik begint niet bij het contactmoment. Het begint met de ontwerpkeuzes die dat contact en de stilte van het systeem eromheen überhaupt mogelijk hebben gemaakt.

Als je een dak bouwt dat lekt, weet je dat als het regent, het water de constructie zal binnendringen. Je weet dat het plafond beschadigd raakt, de vloeren kromtrekken, schimmelvorming in de hand werkt en mogelijk de integriteit van het hele gebouw in gevaar brengt. Dit is geen verrassing. Het is een voorspelbare uitkomst van een ontwerpfout. En toch, in de digitale context, argumenteren de platformen alsof de "regenval zelf", d.w.z. het roofdier, de misbruiker, de oplichter, de imitatie, de phishing link, de last is die de gebruiker moet dragen, in plaats van te erkennen dat het systeem is gebouwd met een lekkend dak.

Dit is het belangrijkste onderscheid van NDA². Wanneer de technologiestapel is gebouwd met bekende kwetsbaarheden, of het nu gaat om communicatie die kan worden vervalst, ongeauthenticeerde autoriteitssignalen of ondoorzichtige moderatiesystemen, dan is de schade die daaruit voortvloeit niet incidenteel. Het is ingebouwd in het ontwerp. De gebruiker de schuld geven van "nat worden" is niet alleen onoprecht maar ook nalatig.

In geen enkele andere bedrijfstak zouden we een constructie tolereren die het onder normale, voorzienbare omstandigheden begeeft en die vervolgens verontschuldigen als de verantwoordelijkheid van de bewoner. Maar in de digitale architectuur buigen platforms de verantwoordelijkheid voor hun eigen ontwerplogica af door te wijzen naar het weer, de gebruiker of de aanvaller, maar niet naar het lek dat ze hebben gebouwd en dat ze niet hebben kunnen repareren.

De weg vooruit: Verantwoording in het tijdperk van infrastructuur

We staan niet toe dat gebouwen instorten en geven de mensen die erin staan de schuld. We staan niet toe dat voertuigen met bekende remdefecten op de weg blijven. We eisen dat auto's met elektronische en softwaresystemen voldoen aan strenge veiligheidsprotocollen, zoals ISO 26262, die functionele veiligheid in auto-omgevingen verplicht stelt om ervoor te zorgen dat defecten worden geïdentificeerd en aangepakt lang voordat het voertuig ooit een bestuurder bereikt.

We staan niet toe dat kinderspeelgoed niet op veiligheid wordt getest. We tolereren niet dat huishoudelijke apparaten vlam vatten door bekende gebreken in de bedrading. In elke andere sector is productveiligheid een eerste vereiste, geen bijkomstigheid. En toch bestaat er in digitale systemen, waar de architectuur de identiteit, communicatie en het vertrouwen bepaalt, geen gelijkwaardige bescherming.

Ik heb gewerkt in de zakelijke sector van een wereldwijde certificeringsinstantie die de naleving van ISO- en CE-normen in verschillende industrieën controleert, en ik heb een duidelijk inzicht gekregen in hoe strenge, gestandaardiseerde ontwerpbeoordelingen consumenten beschermen - een verantwoordingsmodel dat vandaag de dag in digitale architectuur schittert door afwezigheid.

Er is geen ISO-equivalent voor interfaceveiligheid. Geen CE-markering voor platformontwerp. Geen UL-keuring voor algoritmische logica. Platformen kunnen wereldwijd schaalbaar zijn, fraude mogelijk maken, de waarheid onderdrukken en gebruikers in gevaar brengen zonder ook maar één vereiste structurele beoordeling voor lancering.

En elk stukje van de digitale structuur is belangrijk. In de fysieke wereld, de ramp met de Takata airbag[10] is een grimmige herinnering: één defect onderdeel dat in tientallen automodellen werd gebruikt, leidde tot de grootste terugroepactie in de geschiedenis, meerdere doden en de volledige financiële ineenstorting van het bedrijf. De fout zat niet in de auto als geheel, maar in één ingebed systeem dat mocht falen. Dat is de standaard die we elders accepteren: elk onderdeel moet nauwkeurig worden onderzocht, omdat bekende risico's nooit neutraal zijn.

In de technologie zijn deze gebreken echter niet alleen ongereguleerd, ze zijn vaak ook te gelde gemaakt. Hele bedrijfsmodellen

 is gebleken dat:

• rechtstreeks profiteren van de schade (via platformstructuren die desinformatie, manipulatie of fraude belonen), of
• Gebruikers laten betalen om reputatieschade te herstellen of schadelijke inhoud te verwijderen die nooit had mogen worden toegelaten[11].

Er is een hele industrie ontstaan uit de voorspelbare mislukkingen van nalatige digitale architectuur. Bedrijven worden speciaal opgericht om te profiteren van de nasleep van schade, een duidelijke indicator dat de schade niet het gevolg is van willekeurig verkeerd gebruik, maar van structurele ontwerpfouten.

Deze bedrijfsmodellen zijn afhankelijk van het aanbieden van diensten zoals privacybescherming voor gegevens die uitlekken via kwetsbare systemen, herstel van de reputatie na spoofing of imitatie, en het verwijderen van inhoud pas nadat schadelijke blootstelling al heeft plaatsgevonden.

Elk van deze diensten bestaat omdat de architectuur faalde. Het zijn geen oplossingen, het zijn marktreacties op bekende, vermijdbare mislukkingen. En ze zijn allemaal een direct resultaat van een Verwaarlozende digitale architectuur (NDA²) uitsplitsing.

Dit zijn geen beveiligingen. Het zijn aftermarket-oplossingen voor architectonisch falen - diensten die worden terugverkocht aan de gebruikers die het systeem in eerste instantie niet beschermde.

Toch is er in de technologie geen rechtsleer ontwikkeld om deze fouten te behandelen als productaansprakelijkheid, ondanks het feit dat ze voldoen aan alle traditionele drempels: voorzienbaarheid, nalaten om te waarschuwen, gebrekkig ontwerp en meetbare schade.

Het is niet voldoende om schadelijke inhoud met terugwerkende kracht te verwijderen. Wanneer platformen worden ingezet met volledige kennis van structurele kwetsbaarheden zoals spoofbare communicatie, stille onderdrukking of ondoorzichtige handhaving, is de schade niet incidenteel. Het is ontworpen. En het moet worden behandeld als een ontwerpfout, niet als een moderatiefout.

NDA² vereist een fundamentele verschuiving:

• Van reactieve moderatie naar architecturale verantwoording.
• Van gebruikers de schuld geven naar systemen certificeren.
• Van platformimmuniteit tot productaansprakelijkheid - wanneer schade wordt veroorzaakt door de structuur die het mogelijk maakt om te gedijen.

De modellen bestaan al. Bouwvoorschriften. Protocollen voor de veiligheid van auto's. Regelgeving voor consumentenproducten. Ze zijn allemaal gebaseerd op het idee dat schade kan worden voorkomen als het risico bekend is. Het internet mag niet langer de uitzondering op die regel zijn.

De structuur is de schade. En het rechtssysteem moet zich niet ontwikkelen om een nieuwe doctrine uit te vinden, maar om de doctrine toe te passen die we al hebben.

We noemen dit productaansprakelijkheid. Het bestaat juist om verantwoordelijkheid toe te wijzen wanneer ontwerpfouten voorzienbare schade veroorzaken. Het is tijd om die standaard uit te breiden naar de digitale structuren die nu ons leven bepalen. Deze platforms zijn niet vrijgesteld omdat ze immaterieel zijn. Het zijn producten. Het zijn systemen. En ze falen door hun ontwerp.

Omdat weegschaal geen excuus kan zijn. Stilte kan geen schild zijn. En platforms mogen niet de enige industrie zijn die het publiek schade toebrengt.

De structuur is de schade. Het is tijd om het verantwoordelijk te houden.

Citaten en eigenschappen

APA (7e editie):

Starr, K. (2025). Verwaarlozende digitale architectuur: Hoe platformontwerp schade codificeert. KStarr Enterprises, LLC. https://www.katherinestarr.com/negligent-digital-architecture/

MLA (9e editie):

Starr, Katherine. Verwaarlozende digitale architectuur: Hoe platformontwerp schade codificeert. KStarr Enterprises, LLC, 2025. www.katherinestarr.com/negligent-digital-architecture/.

Bluebook (juridisch):

Katherine Starr, Verwaarlozende digitale architectuur: Hoe platformontwerp schade codificeert, KStarr Enterprises, LLC (2025), https://www.katherinestarr.com/negligent-digital-architecture/.

Zie ook Starr v. Google LLC, Complaint, No. 1:25-cv-01216-RP (W.D. Tex. gedeponeerd 5 augustus 2025), waarin Negligent Digital Architecture™ wordt toegepast als een oorzaak van actie.

Citaten

[1] Starr, K. (2025). Onachtzame digitale toegang: Wanneer platformontwerp schade mogelijk maakt. KStarr Ondernemingen, LLC. https://www.katherinestarr.com/negligent-digital-access/

[2] Pasquale, F. (2015). De zwarte doosmaatschappij: De geheime algoritmen die geld en informatie controleren. Harvard University Press.

[3] Citron, D. K. (2014). Haatmisdrijven in cyberspace. Harvard University Press.

[4] Herrick v. Grindr LLC, 765 F. App'x 586 (2nd Cir. 2019).

[5] Internationale Organisatie voor Normalisatie. (2018). ISO 26262: Wegvoertuigen - Functionele veiligheid. Genève, Zwitserland: ISO.

[6] Internationale Organisatie voor Standaardisatie. (2015). ISO 9001: Kwaliteitsmanagementsystemen - Eisen. Genève, Zwitserland: ISO.

[7] Europese Commissie. (n.d.). CE-markering - Conformiteitsbeoordeling. Ontleend aan https://ec.europa.eu/growth/single-market/ce-marking_en

[8] Uber Technologies, Inc., rechtszaak over seksueel misbruik door passagiers (MDL nr. 3084, N.D. Cal. 2023)

[9] Lyft Inc. Afgeleide geschillen, No. CGC-20-584549 (Cal. Super. Ct., S.F. Cnty., ingediend 19 feb. 2020)

[10] National Highway Traffic Safety Administration (NHTSA). (2023). Takata airbag terugroepacties. Amerikaans ministerie van transport. https://www.nhtsa.gov/equipment/takata-recall-spotlight

[11] Zuboff, S. (2019). Het tijdperk van toezichtkapitalisme: De strijd voor een menselijke toekomst aan de nieuwe grens van de macht. Publiekszaken.