Uber sancionada amb 825 milions d'euros per decisions automatitzades

El panorama de la regulació digital a Europa acaba de patir un sacsega significant. L'Autoritat de Protecció de Dades dels Països Baixos (AP) ha imposat una multa administrativa de 824.990.000 euros a Uber, en una de les sancions més contundents contra el gegant del transport per infraccions relacionades amb el tractament de dades personals i la governança algorítmica. El nucli del conflicte resideix en l'ús de sistemes automatitzats per prendre decisions que afectaven directament el sustent dels conductors de la plataforma.

El mecanisme de desactivació sense supervisió humana

La investigació s'ha centrat en el període comprès entre 2018 i 2022. Durant aquests anys, Uber va implementar un programari dissenyat per monitoritzar el comportament de conducció i analitzar les valoracions dels clients. El problema, segons la resolució de l'AP, és que quan aquest software detectava sospites de frau o quan les notes atorgades pels usuaris caien per sota d'un llindar determinat, el sistema procedia a la desactivació de l'estat del conductor de manera immediata.

Aquestes desactivacions podien ser temporals, en el cas de sospites de frau, o permanents si les baixes valoracions persistien en el temps. El punt crític que ha conduit a la sanció és l'absència total d'una avaluació humana prèvia. Els conductors es veien expulsats de la plataforma d'un moment a l'altre, perdent la seva única font d'ingressos sense tenir l'oportunitat de presentar una defensa o que un operador revisés la legitimitat de la mesura.

La vulneració dels articles 13 i 22 del RGPD

La sanció no és un acte arbitrari, sinó que s'estreu d'una interpretació estricta del Reglament General de Protecció de Dades (RGPD). L'AP ha determinat que Uber va vulnerar la prohibició de prendre decisions individuals basades exclusivament en el tractament automatitzat quan aquestes produeixin efectes jurídics o afectin significativament a la persona.

A més de la problemàtica de l'execució, el regulador ha assenyalat una manca de transparència. Uber no va informar els conductors de manera suficient sobre el funcionament d'aquestes decisions automatitzades ni sobre els criteris de profilació utilitzats. Aquesta opacitat impedeïa que els treballadors comprenessin per què havien estat bloquejats i quines accions havien desencadenat l'algorisme.

Un ordinador no ha de prendre decisions per si sol que tinguin conseqüències majors per a tu. Aquestes decisions haurien de haver estat revisades primer per un ésser humà.

Aquestes paraules de Monique Verdier, vicepresidenta de l'AP, resumeixen la filosofia d'aquest cas: la tecnologia pot optimitzar processos, però no pot substituir la responsabilitat humana en decisions que impacten la vida econòmica d'un individu.

Un procés coordinat entre França i els Països Baixos

Tot i que la multa ha estat imposada per l'autoritat neerlandesa, l'origen del cas és francès. Tot va començar quan 171 conductors de Uber a França van presentar denúncies a través de la Ligue des droits de l’Homme (LDH). Aquesta organització de drets humans va elevar la queixa a la CNIL, l'autoritat francesa de protecció de dades.

Atuint que la seu europea de Uber es troba a Amsterdam, el cas es va gestionar sota el mecanisme de ventall únic (One-Stop-Shop) del RGPD. Això significa que l'AP dels Països Baixos era l'autoritat competent per liderar la investigació, tot i que va cooperar estretament amb la CNIL durant tot el procés, des de la recollida de proves fins a l'anàlisi de la decisió final. Aquesta coordinació assegura que les sancions siguin coherents en tot el territori de la Unió Europea.

L'historial de sancions de Uber a Europa

Aquesta multa de gairebé 825 milions d'euros no és un incident aïllat, sinó que forma part d'una sèrie de conflictes regulatoris. La CNIL ja havia impulsat mesures prèvies contra l'empresa. En desembre de 2023, Uber va ser multada amb 10 milions d'euros per no informar correctament els conductors. Posteriorment, el juliol de 2024, va rebre una sanció de 290 milions d'euros relacionada amb la transferència de dades personals fora de la Unió Europea.

L'acumulació d'aquestes multes reflecteix una tendència dels reguladors europeus a ser molt més rigorosos amb les empreses de la denominada economia de plataformes (gig economy), on la relació entre l'empresa i el prestador de serveis està mediada totalment per un algorisme.

El futur dels algorismes i la resposta de l'empresa

Uber ha declarat que ja ha cessat les pràctiques que van originar la sanció, adaptant els seus processos per evitar la desactivació purament automatitzada. No obstant això, l'empresa ha presentat un recurs contra la multa, per la qual cosa encara no hi ha una decisió judicial definitiva sobre el pagament total de l'import.

El cas marca un precedent per a totes les empreses que utilitzen sistemes de profiling i automated decision making. La clau per evitar sancions d'aquest calibre és la implementació de la supervisió humana (human-in-the-loop), assegurant que cap persona sigui penalitzada econòmicament o professionalment sense que un operador humà hagi validat la decisió de l'algorisme. Per a més detalls sobre la resolució, es pot consultar el portal de l' EDPB.

Impacte per a l'ecosistema empresarial de Catalunya i Espanya

Aquesta notícia té una ressonància directa per a les empreses tecnològiques de Barcelona i el mercat espanyol en general. En un moment en què l'ecosistema d'emprenedoria català està impulsant amb força la implementació de la intel·ligència artificial en processos de business i operacions, el cas Uber serveix com a advertència crítica sobre el compliment normatiu.

L'arribada de l'AI Act de la Unió Europea reforçarà encara més aquests criteris. Les empreses locals que desenvolupin sistemes d'IA per a la gestió de recursos humans, la selecció de personal o la monitorització de contractistes hauran de classificar els seus sistemes segons el nivell de risc. Els sistemes que prenen decisions amb impacte significatiu en la vida de les persones seran considerats de risc alt, exigint transparència total i supervisió humana obligatòria.

Per a les startups de Barcelona, el camí no és renunciar a l'automatització, sinó dissenyar sistemes compliant by design. Això implica que l'algorisme no ha de ser el jutge final, sinó una eina de suport a la decisió. En el mercat espanyol, on la jurisprudència sobre els conductors de plataformes (com la Llei Rider) ja ha estat molt activa, aquesta sanció europea valida la direcció cap a una major protecció del treballador davant l'opacitat algorítmica. Les empreses que ignorin aquests principis s'exposen no només a multes milionàries, sinó a un risc reputacional que pot ser letal en un mercat cada vegada més conscient dels drets digitals.

Preguntes freqüents

Fonts: Edpb, Autoriteitpersoonsgegevens, Cnil ·