EU Artificial Intelligence Act: The European Approach to AI

Stanford - Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 2/2021

New Stanford tech policy research: “EU Artificial Intelligence Act: The European Approach to AI”.

EU regulatory framework for AI

On 21 April 2021, the European Commission presented the Artificial Intelligence Act. This Stanford Law School contribution lists the main points of the proposed regulatory framework for AI.

The Act seeks to codify the high standards of the EU trustworthy AI paradigm, which requires AI to be legally, ethically and technically robust, while respecting democratic values, human rights and the rule of law. The draft regulation sets out core horizontal rules for the development, commodification and use of AI-driven products, services and systems within the territory of the EU, that apply to all industries.

Legal sandboxes fostering innovation

The EC aims to prevent the rules from stifling innovation and hindering the creation of a flourishing AI ecosystem in Europe. This is ensured by introducing various flexibilities, including the application of legal sandboxes that afford breathing room to AI developers.

Sophisticated ‘product safety regime’

The EU AI Act introduces a sophisticated ‘product safety framework’ constructed around a set of 4 risk categories. It imposes requirements for market entrance and certification of High-Risk AI Systems through a mandatory CE-marking procedure. To ensure equitable outcomes, this pre-market conformity regime also applies to machine learning training, testing and validation datasets.

Pyramid of criticality

The AI Act draft combines a risk-based approach based on the pyramid of criticality, with a modern, layered enforcement mechanism. This means, among other things, that a lighter legal regime applies to AI applications with a negligible risk, and that applications with an unacceptable risk are banned. Stricter regulations apply as risk increases.

Enforcement at both Union and Member State level

The draft regulation provides for the installation of a new enforcement body at Union level: the European Artificial Intelligence Board (EAIB). At Member State level, the EAIB will be flanked by national supervisors, similar to the GDPR’s oversight mechanism. Fines for violation of the rules can be up to 6% of global turnover, or 30 million euros for private entities.

CE-marking for High-Risk AI Systems

In line with my recommendations, Article 49 of the Act requires high-risk AI and data-driven systems, products and services to comply with EU benchmarks, including safety and compliance assessments. This is crucial because it requires AI infused products and services to meet the high technical, legal and ethical standards that reflect the core values of trustworthy AI. Only then will they receive a CE marking that allows them to enter the European markets. This pre-market conformity mechanism works in the same manner as the existing CE marking: as safety certification for products traded in the European Economic Area (EEA).

Trustworthy AI by Design: ex ante and life-cycle auditing

Responsible, trustworthy AI by design requires awareness from all parties involved, from the first line of code. Indispensable tools to facilitate this awareness process are AI impact and conformity assessments, best practices, technology roadmaps and codes of conduct. These tools are executed by inclusive, multidisciplinary teams, that use them to monitor, validate and benchmark AI systems. It will all come down to ex ante and life-cycle auditing.

The new European rules will forever change the way AI is formed. Pursuing trustworthy AI by design seems like a sensible strategy, wherever you are in the world.

Read More

Democratic Countries Should Form a Strategic Tech Alliance

Stanford - Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 1/2021

New Stanford innovation policy research: “Democratic Countries Should Form a Strategic Tech Alliance”.

Exporting values into society through technology

China’s relentless advance in Artificial Intelligence (AI) and quantum computing has engendered a significant amount of anxiety about the future of America’s technological supremacy. The resulting debate centres around the impact of China’s digital rise on the economy, security, employment and the profitability of American companies. Absent in these predominantly economic disquiets is what should be a deeper, existential concern: What are the effects of authoritarian regimes exporting their values into our society through their technology? This essay will address this question by examining how democratic countries can, or should respond, and what you can do about it to influence the outcome.

Towards a global responsible technology governance framework

The essay argues that democratic countries should form a global, broadly scoped Strategic Tech Alliance, built on mutual economic interests and common moral, social and legal norms, technological interoperability standards, legal principles and constitutional values. An Alliance committed to safeguarding democratic norms, as enshrined in the Universal Declaration of Human Rights (UDHR) and the International Covenant on Civil and Political Rights (ICCPR). The US, the EU and its democratic allies should join forces with countries that share our digital DNA, institute fair reciprocal trading conditions, and establish a global responsible technology governance framework that actively pursues democratic freedoms, human rights and the rule of law.

Two dominant tech blocks with incompatible political systems

Currently, two dominant tech blocks exist that have incompatible political systems: the US and China. The competition for AI and quantum ascendancy is a battle between ideologies: liberal democracy mixed with free market capitalism versus authoritarianism blended with surveillance capitalism. Europe stands in the middle, championing a legal-ethical approach to tech governance.

Democratic, value-based Strategic Tech Alliance

The essay discusses political feasibility of cooperation along transatlantic lines, and examines arguments against the formation of a democratic, value-based Strategic Tech Alliance that will set global technology standards. Then, it weighs the described advantages of the establishment of an Alliance that aims to win the race for democratic technological supremacy against disadvantages, unintended consequences and the harms of doing nothing.

Democracy versus authoritarianism: sociocritical perspectives

Further, the essay attempts to approach the identified challenges in light of the ‘democracy versus authoritarianism’ discussion from other, sociocritical perspectives, and inquires whether we are democratic enough ourselves.

How Fourth Industrial Revolution (4IR) technology is shaping our lives

The essay maintains that technology is shaping our everyday lives, and that the way in which we design and utilize our technology is influencing nearly every aspect of the society we live in. Technology is never neutral. The essay describes that regulating emerging technology is an unending endeavour that follows the lifespan of the technology and its implementation. In addition, it debates how democratic countries should construct regulatory solutions that are tailored to the exponential pace of sustainable innovation in the Fourth Industrial Revolution (4IR).

Preventing authoritarianism from gaining ground

The essay concludes that to prevent authoritarianism from gaining ground, governments should do three things: (1) inaugurate a Strategic Tech Alliance, (2) set worldwide core rules, interoperability & conformity standards for key 4IR technologies such as AI, quantum and Virtual Reality (VR), and (3) actively embed our common democratic norms, principles and values into the architecture and infrastructure of our technology.

Read More

Nieuw naburig recht voor uitgevers schiet zijn doel voorbij

Dit blog is een transcript van het interview dat AIRecht Managing Partner en Stanford Law School Fellow mr. Mauritz Kop op 1 februari 2021 gaf aan Reinier Kist, Redacteur Digitale Media bij NRC Handelsblad, over intellectueel eigendom en nieuwsaggregatie. Het artikel in NRC is hier te raadplegen: Techbedrijven versus Nieuwsmedia - De grootste nieuwsgrazers betalen liever niet voor journalistiek.

Vergoedingen voor nieuwsaggregatie

Regeringen in Australië, Frankrijk en Nederland proberen machtige tech platforms zoals Google en Facebook te dwingen om te betalen voor het met commercieel oogmerk linken naar en weergeven van korte stukken tekst uit nieuwsartikelen. Het gaat hier om vergoedingen voor nieuwsaggregatie. Hierbij spelen auteursrechten, naburige rechten, fiscaal recht, het contractenrecht en het mededingingsrecht een rol. We zoomen hieronder in op het nieuwe naburige recht voor uitgevers van nieuwsmedia en journalistieke content, dat door de Europese wetgever in artikel 15 van de recente Richtlijn inzake auteursrechten in de digitale eengemaakte markt (Directive on Copyright in the Digital Single Market) wordt geïntroduceerd.

Wordingsgeschiedenis van de nieuwe EU Copyright Directive

1. Een belangrijke vraag in het artikel is hoe de implementatie van de Europese copyrighthervorming in Nederland ervoor staat, en of we een Franse licentiedeal ook hier ten lande kunnen verwachten.

Laten we beginnen bij de wordingsgeschiedenis van de nieuwe Copyright Directive. Het gaat bij de EU Copyright Reform om 3 doelstellingen die in de huidige marktconstellatie niet goed verenigbaar zijn. Dit zijn toegang tot hoge kwaliteit legale content voor consumenten (1), een innovatievriendelijk klimaat voor SME’s waaronder startups (2) en handhaving van auteursrechten (3). Daarnaast werd er bij de totstandkoming van deze richtlijn, en tijdens de publieke consultatie stevig gelobbyd door belanghebbenden. Zoals auteursrechthebbenden, collectieve rechteninstanties, consumentenbelangengroepen, online platforms en uitgeverijen. We zagen vervolgens bepaalde wensen van deze partijen terugkomen in de wetsvoorstellen, zowel op Europees als op nationaal niveau. Omdat die wensen vaak compleet tegengesteld zijn aan elkaar, is het resultaat van deze Europese wetgevingsinspanning een ingewikkeld compromis.

Het introduceren van nieuwe lagen IP rechten is zelden een goed idee

We zien dat de verdienmodellen van de oude contentindustrie, het momenteel afleggen tegen de verdienmodellen van de grote internetplatforms. Overheden willen een gezonde markt en een divers ecosysteem voor nieuwsgaring in stand houden. Dat is belangrijk in een democratie. Dat betekent dat je soms corrigerend moet optreden door het introduceren van wetgeving. De vraag is echter of die wetgeving effectief zal zijn. Want als het over 10 jaar niet blijkt te werken, kom je er moeilijk vanaf! Dit geldt des te meer voor intellectuele eigendomsrechten. Het introduceren van nieuwe lagen IP rechten om de effecten van technologische innovatie op de markt en de maatschappij in balans te brengen, is zelden een goed idee. Een voorbeeld van zo’n mislukt wetgevingsproject is de Databankenrichtlijn, die bedoeld was om EU bedrijven een minder nadelige concurrentiepositie te geven ten opzichte van Amerikaanse bedrijven. Maar ook de Copyrightrichtlijn dreigt te ontaarden in een mislukt project en wordt door experts inmiddels algemeen beschouwd als een degeneratie van het auteursrecht.

Read More

Distributiecontracten, Online Verkoop en de Mededingingswet

Onze cliënten stellen ons regelmatig vragen over distributiecontracten, mededinging en online verkoop. Wat moet er eigenlijk allemaal in een distributieovereenkomst staan? Heb ik inkoopvoorwaarden nodig? Bestaat er zoiets als onbegrensde contractvrijheid? En hoe maak ik afspraken met mijn dealernetwerk, zonder dat consumentenrechten worden geschonden? Afspraken die eerlijke concurrentie en marktwerking eerbiedigen?

Wat moet er in een distributiecontract tussen producent en distributeur staan?

Fabrikant en dealer dienen juridisch valide afspraken te maken over de details van de distributie van producten. Die afspraken maken we schriftelijk, op papier dus, en leggen we neer in een distributieovereenkomst. De details zijn uiteraard afhankelijk van de branche, de industrie of de economische sector waarin producent, distributeur of wederverkoper werkzaam zijn, en van de omvang van hun marktaandeel. Ook is het van belang of verkoop aan de consument online in een webwinkel, of offline in een fysieke winkel plaatsvindt of beide.

Groothandel in consumentenelektronica, distributie en wederverkoop

Stel, een groothandel (danwel een fabrikant of producent) specialiseert zich in de verkoop van consumentenelektronica. Zij maakt daarbij gebruik van een distributieketen van door haar geselecteerde wederverkopers. Verkoop vindt plaats via de fysieke winkels van distributeurs, maar tevens online, via webshops. De groothandel is marktleider in het betreffende segment.

Contractvrijheid tussen partijen

Bij het maken van schriftelijke afspraken geldt het beginsel van contractvrijheid tussen partijen. Daarbij gaat het om de rechtsverhouding tussen partijen. Maar deze afspraken dienen natuurlijk ook fair te zijn richting derden, zoals consumenten en de concurrentie. Marktbederf dient te worden voorkomen. Indien er sprake is van een aanzienlijk marktaandeel, of een de facto monopolie, dan kunnen voorschriften uit dwingende Europese en Nederlandse wetgeving inzake mededinging, zoals artikel 101 VWEU en artikel 6 van de Mededingingswet (Mw), in de weg staan aan deze contractvrijheid. Een en ander is echter afhankelijk van alle omstandigheden van het geval.

Wat doet de Autoriteit Consument en Markt (ACM)?

De Autoriteit Consument en Markt (ACM) ziet er op toe dat consumentenbelangen worden beschermd, en dat bedrijven op een eerlijke manier met elkaar concurreren. De ACM biedt informatie aan ondernemers over het verkopen van producten en diensten aan consumenten, en richtsnoeren over concurrentie, marktwerking en eerlijke samenwerking tussen bedrijven. Denk aan gedragsregels omtrent prijsafspraken, kartelvorming, concurrentie met overheden, fusies, overnames en joint ventures, maar ook aan regels voor samenwerking tussen ondernemers op het gebied van duurzame innovatie en maatschappelijk verantwoord ondernemen. De ACM heeft als missie om spelregels voor bedrijven en consumenten -waaronder ieders rechten en plichten- te geven en te handhaven op het gebied van concurrentie en marktwerking en als zodanig bij te dragen aan een gezonde economie.

Read More

Een Juridisch-Ethisch Kader voor Quantum Technologie

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-nederland-voorbereiden-kwantumtoekomst/

Nederland moet zich voorbereiden op de toepassing van kwantumtechnologie, zegt jurist en Stanford Law School Fellow Mauritz Kop. Op het gebied van regulering, intellectueel eigendom en ethiek is er nog veel werk aan de winkel.

De Quantum Age roept veel juridische vragen op

Het gedrag van de natuur op de kleinste schaal kan vreemd en contra-intuïtief zijn. Hoe kunnen beleidsmakers de toepassingsgebieden van kwantumtechnologie, zoals quantum computing, quantum sensing en het quantum internet op een maatschappelijk verantwoorde manier reguleren? Dienen ethische kwesties een rol te spelen in regulering? De Quantum Age roept veel juridische vragen op.

Hoe kunnen we kwantumtechnologie reguleren?

Regulering van transformatieve technologie is een dynamisch, cyclisch proces dat de levensduur van de technologie en de toepassing volgt. Het vraagt om een flexibel wetgevend systeem dat zich snel kan aanpassen aan veranderende omstandigheden en maatschappelijke behoeften.

De eerste regelgevende stap om te komen tot een bruikbaar juridisch-ethisch kader is het koppelen van de Trustworthy AI-principes aan kwantumtechnologie. Die vullen we vervolgens aan met horizontale, overkoepelende regels die recht doen aan de unieke natuurkundige eigenschappen van quantum. Aan deze horizontale kernregels voegt de wetgever tenslotte verticale, industrie- of sectorspecifieke voorschriften toe. Die verticale voorschriften en gedragscodes zijn risk-based en houden rekening met de uiteenlopende behoeftes van economische sectoren waar het duurzame innovatiestimuli betreft. Zo ontstaat een gedifferentieerde, sectorspecifieke benadering aangaande incentives en risks.

Bewustwording van ethische, juridische en sociale aspecten

Een belangrijk onderdeel van het synchroniseren van onze normen, waarden, standaarden en principes met kwantumtechnologie is het creëren van bewustwording van de ethische, juridische en sociale aspecten ervan. De architectuur van systemen die zijn uitgerust met kwantumtechnologie moet waarden vertegenwoordigen die wij als samenleving belangrijk vinden.

Vooruitlopend op spectaculaire doorbraken in de toepassing van kwantumtechnologie is de tijd nu rijp voor regeringen, onderzoeksinstellingen en de markt om regulatoire en intellectuele eigendomsstrategieën voor te bereiden die passen bij de power van de technologie.

Nederland moet zich voorbereiden op een kwantumtoekomst, want die komt eraan.

Read More