EU Artificial Intelligence Act: The European Approach to AI →

Stanford - Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 2/2021

New Stanford tech policy research: “EU Artificial Intelligence Act: The European Approach to AI”.

EU regulatory framework for AI

On 21 April 2021, the European Commission presented the Artificial Intelligence Act. This Stanford Law School contribution lists the main points of the proposed regulatory framework for AI.

The Act seeks to codify the high standards of the EU trustworthy AI paradigm, which requires AI to be legally, ethically and technically robust, while respecting democratic values, human rights and the rule of law. The draft regulation sets out core horizontal rules for the development, commodification and use of AI-driven products, services and systems within the territory of the EU, that apply to all industries.

Legal sandboxes fostering innovation

The EC aims to prevent the rules from stifling innovation and hindering the creation of a flourishing AI ecosystem in Europe. This is ensured by introducing various flexibilities, including the application of legal sandboxes that afford breathing room to AI developers.

Sophisticated ‘product safety regime’

The EU AI Act introduces a sophisticated ‘product safety framework’ constructed around a set of 4 risk categories. It imposes requirements for market entrance and certification of High-Risk AI Systems through a mandatory CE-marking procedure. To ensure equitable outcomes, this pre-market conformity regime also applies to machine learning training, testing and validation datasets.

Pyramid of criticality

The AI Act draft combines a risk-based approach based on the pyramid of criticality, with a modern, layered enforcement mechanism. This means, among other things, that a lighter legal regime applies to AI applications with a negligible risk, and that applications with an unacceptable risk are banned. Stricter regulations apply as risk increases.

Enforcement at both Union and Member State level

The draft regulation provides for the installation of a new enforcement body at Union level: the European Artificial Intelligence Board (EAIB). At Member State level, the EAIB will be flanked by national supervisors, similar to the GDPR’s oversight mechanism. Fines for violation of the rules can be up to 6% of global turnover, or 30 million euros for private entities.

CE-marking for High-Risk AI Systems

In line with my recommendations, Article 49 of the Act requires high-risk AI and data-driven systems, products and services to comply with EU benchmarks, including safety and compliance assessments. This is crucial because it requires AI infused products and services to meet the high technical, legal and ethical standards that reflect the core values of trustworthy AI. Only then will they receive a CE marking that allows them to enter the European markets. This pre-market conformity mechanism works in the same manner as the existing CE marking: as safety certification for products traded in the European Economic Area (EEA).

Trustworthy AI by Design: ex ante and life-cycle auditing

Responsible, trustworthy AI by design requires awareness from all parties involved, from the first line of code. Indispensable tools to facilitate this awareness process are AI impact and conformity assessments, best practices, technology roadmaps and codes of conduct. These tools are executed by inclusive, multidisciplinary teams, that use them to monitor, validate and benchmark AI systems. It will all come down to ex ante and life-cycle auditing.

The new European rules will forever change the way AI is formed. Pursuing trustworthy AI by design seems like a sensible strategy, wherever you are in the world.

Read more

De Wet op de Artificiële Intelligentie →

Een bewerkte versie van deze bijdrage is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/wet-artificiele-intelligentie-belangrijkste-punten/

Nieuwe regels voor AI gedreven producten, diensten en systemen

Op 21 april 2021 presenteerde de Europese Commissie haar langverwachte Wet op de Artificiële Intelligentie (AI). Deze concept Verordening geeft regels voor de ontwikkeling, commodificatie en gebruik van AI gedreven producten, diensten en systemen binnen het territorium van de Europese Unie. Het was bemoedigend te zien dat het team van President Ursula von der Leyen een belangrijk aantal van onze strategische aanbevelingen op het gebied van de regulering van AI heeft overgenomen, danwel zelfstandig tot dezelfde conclusies is gekomen.

Doelstellingen wettelijk kader voor AI

De concept Verordening biedt horizontale overkoepelende kernregels voor kunstmatige intelligentie die op alle industrieën (verticals) van toepassing zijn. De wet beoogt de hoge maatstaven van het EU Trustworthy AI paradigma te codificeren, dat voorschrijft dat AI wettig, ethisch en technisch robuust dient te zijn en daartoe 7 vereisten hanteert.

De Wet op de Artificiële Intelligentie heeft de volgende 4 doelstellingen:

“1. ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;

2. rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;

3. het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;

4. de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.“

Risico gebaseerde aanpak kunstmatig intelligente applicaties

Om deze doelstellingen te realiseren combineert de concept Artificial Intelligence Act een risk-based approach op basis van de pyramid of criticality, met een modern, gelaagd handhavingsmechanisme. Dit houdt onder meer in dat er voor AI applicaties met een verwaarloosbaar risico een licht wettelijk regime geldt, en onacceptabel risico applicaties verboden worden. Tussen deze 2 uitersten gelden er naarmate het risico toeneemt strengere voorschriften. Deze variëren van vrijblijvende zelfregulerende soft law impact assessments met gedragscodes, tot zwaar, multidisciplinair extern geauditeerde compliance vereisten inzake kwaliteit, veiligheid en transparantie inclusief risicobeheer, monitoring, certificering, benchmarking, validatie, documentatieplicht en markttoezicht gedurende de levenscyclus van de toepassing.

Handhaving en governance

De definitie van hoog risico AI applicaties binnen de diverse industriële sectoren is nog niet in steen gehouwen. Een ondubbelzinnige risicotaxonomie zal bijdragen aan rechtszekerheid en biedt belanghebbenden een adequaat antwoord op vragen over aansprakelijkheid en verzekering. Om ruimte voor innovatie door SME’s waaronder tech-startups te waarborgen, worden er flexibele AI regulatory sandboxes geïntroduceerd en is er IP Action Plan opgesteld voor intellectueel eigendom. De concept Verordening voorziet tenslotte in de installatie van een nieuwe handhavende instantie op Unieniveau: het European Artificial Intelligence Board. De EAIB zal op lidstaatniveau worden geflankeerd door nationale toezichthouders.

Read more

Safeguards for accelerated market authorization of vaccines in Europe

by Suzan Slijpen & Mauritz Kop

This article has been published by the Stanford Law School ‘Center for Law and the Biosciences’, Stanford University, 15 March 2021. link to the full text: https://law.stanford.edu/2021/03/15/safeguards-for-accelerated-market-authorization-of-vaccines-in-europe/

The first COVID-19 vaccines have been approved

People around the globe are concerned about safety issues encircling the accelerated introduction of corona vaccines. In this article, we discuss the regulatory safeguards for fast-track market authorization of vaccines in Europe. In addition, we explain how the transmission of European Union law into national Member State legislation works. We then clarify what happens before a drug can be introduced into the European market. We conclude that governments should build bridges of mutual understanding between communities and increase trust in the safety of authorized vaccines across all population groups, using the right messengers.

Drug development normally takes several years

Drug development normally takes several years. The fact that it has been a few months now seems ridiculously short. How is the quality and integrity of the vaccine ensured? That people - on both sides of the Atlantic - are concerned about this is entirely understandable. How does one prevent citizens from being harmed by vaccines and medicines that do not work for everyone, because the admission procedures have been simplified too much?

The purpose of this article is to shed a little light upon the accelerated market authorization procedures on the European continent, with a focus on the situation in the Netherlands.

How a vaccine is introduced into the market

In June 2020, the Dutch government, in close cooperation with Germany, France and Italy, formed a Joint Negotiation Team which, under the watchful eye of the European Commission, has been negotiating with vaccine developers. Its objective: to conclude agreements with drug manufacturers at an early stage about the availability of vaccines for European countries. In case these manufacturers are to succeed in developing a successful vaccine for which the so-called Market Authorization (MA) is granted by EMA or CBG, this could lead to the availability of about 50 million vaccines (for the Netherlands alone).

Who is allowed to produce these vaccines?

Who is allowed to produce these vaccines? The Dutch Medicines Act is very clear about this. Only "market authorization holders" are allowed to manufacture medicines, including vaccines. These are parties that have gone through an extensive application procedure, who demonstrably have a solid pharmaceutical quality management system in place and have obtained a pharmaceutical manufacturing license (the MIA, short for Manufacturing and Importation Authorisation). This license is granted after assessment by the Health and Youth Care Inspectorate of the Ministry of Health, Welfare & Sport (IGJ) – by Farmatec. Farmatec is part of the CIBG, an implementing body of the Ministry of Health, Welfare and Sport (VWS). The M-license is mandatory for parties who prepare, or import medicines.

Read more at the Stanford Center for Law and the Biosciences!

Read more on manufacturing licenses, fast track procedures and market authorization by the European Medicines Agency (EMA) and the EC, harmonisation and unification of EU law, CE-markings, antigenic testing kits, mutations, reinfection, multivalent vaccines, mucosal immunity, Good Manufacturing Practices (GMP), pharmacovigilance, the HERA Incubator, clinical trials, compulsory vaccination regimes and continuous quality control at Stanford!

Read more

Distributiecontracten, Online Verkoop en de Mededingingswet

Onze cliënten stellen ons regelmatig vragen over distributiecontracten, mededinging en online verkoop. Wat moet er eigenlijk allemaal in een distributieovereenkomst staan? Heb ik inkoopvoorwaarden nodig? Bestaat er zoiets als onbegrensde contractvrijheid? En hoe maak ik afspraken met mijn dealernetwerk, zonder dat consumentenrechten worden geschonden? Afspraken die eerlijke concurrentie en marktwerking eerbiedigen?

Wat moet er in een distributiecontract tussen producent en distributeur staan?

Fabrikant en dealer dienen juridisch valide afspraken te maken over de details van de distributie van producten. Die afspraken maken we schriftelijk, op papier dus, en leggen we neer in een distributieovereenkomst. De details zijn uiteraard afhankelijk van de branche, de industrie of de economische sector waarin producent, distributeur of wederverkoper werkzaam zijn, en van de omvang van hun marktaandeel. Ook is het van belang of verkoop aan de consument online in een webwinkel, of offline in een fysieke winkel plaatsvindt of beide.

Groothandel in consumentenelektronica, distributie en wederverkoop

Stel, een groothandel (danwel een fabrikant of producent) specialiseert zich in de verkoop van consumentenelektronica. Zij maakt daarbij gebruik van een distributieketen van door haar geselecteerde wederverkopers. Verkoop vindt plaats via de fysieke winkels van distributeurs, maar tevens online, via webshops. De groothandel is marktleider in het betreffende segment.

Contractvrijheid tussen partijen

Bij het maken van schriftelijke afspraken geldt het beginsel van contractvrijheid tussen partijen. Daarbij gaat het om de rechtsverhouding tussen partijen. Maar deze afspraken dienen natuurlijk ook fair te zijn richting derden, zoals consumenten en de concurrentie. Marktbederf dient te worden voorkomen. Indien er sprake is van een marktaandeel, of een de facto monopolie, dan kunnen voorschriften uit dwingende Europese en Nederlandse wetgeving inzake mededinging, zoals artikel 101 VWEU en artikel 6 van de Mededingingswet (Mw), in de weg staan aan deze contractvrijheid. Een en ander is echter afhankelijk van alle omstandigheden van het geval.

Wat doet de Autoriteit Consument en Markt (ACM)?

De Autoriteit Consument en Markt (ACM) ziet er op toe dat consumentenbelangen worden beschermd, en dat bedrijven op een eerlijke manier met elkaar concurreren. De ACM biedt informatie aan ondernemers over het verkopen van producten en diensten aan consumenten, en richtsnoeren over concurrentie, marktwerking en eerlijke samenwerking tussen bedrijven. Denk aan gedragsregels omtrent prijsafspraken, kartelvorming, concurrentie met overheden, fusies, overnames en joint ventures, maar ook aan regels voor samenwerking tussen ondernemers op het gebied van duurzame innovatie en maatschappelijk verantwoord ondernemen. De ACM heeft als missie om spelregels voor bedrijven en consumenten -waaronder ieders rechten en plichten- te geven en te handhaven op het gebied van concurrentie en marktwerking en als zodanig bij te dragen aan een gezonde economie.

Read more

We hebben dringend een recht op dataprocessing nodig →

Deze column is gepubliceerd op platform VerderDenken.nl van het Centrum voor Postacademisch Juridisch Onderwijs (CPO) van de Radboud Universiteit Nijmegen. https://www.ru.nl/cpo/verderdenken/columns/we-dringend-recht-dataprocessing-nodig/

Bij een datagedreven economie hoort een gezond ecosysteem voor machine learning en artificial intelligence. Mauritz Kop beschrijft de juridische problemen en oplossingen hierbij. “We hebben dringend een recht op dataprocessing nodig.”

5 juridische obstakels voor een succesvol AI-ecosysteem

Eerder schreef ik dat vraagstukken over het (intellectueel) eigendom van data, databescherming en privacy een belemmering vormen voor het (her)gebruiken en delen van hoge kwaliteit data tussen burgers, bedrijven, onderzoeksinstellingen en de overheid. Er bestaat in Europa nog geen goed functionerend juridisch-technisch systeem dat rechtszekerheid en een gunstig investeringsklimaat biedt en bovenal is gemaakt met de datagedreven economie in het achterhoofd. We hebben hier te maken met een complex probleem dat in de weg staat aan exponentiële innovatie.

Auteursrechten, Privacy en Rechtsonzekerheid over eigendom van data

De eerste juridische horde bij datadelen is auteursrechtelijk van aard. Ten tweede kunnen er (sui generis) databankenrechten van derden rusten op (delen van) de training-, testing- of validatiedataset. Ten derde zullen bedrijven na een strategische afweging kiezen voor geheimhouding, en niet voor het patenteren van hun technische vondst. Het vierde probleempunt is rechtsonzekerheid over juridisch eigendom van data. Een vijfde belemmering is de vrees voor de Algemene verordening gegevensbescherming (AVG). Onwetendheid en rechtsonzekerheid resulteert hier in risicomijdend gedrag. Het leidt niet tot spectaculaire Europese unicorns die de concurrentie aankunnen met Amerika en China.

Wat is machine learning eigenlijk?

Vertrouwdheid met technische aspecten van data in machine learning geeft juristen, datawetenschappers en beleidsmakers de mogelijkheid om effectiever te communiceren over toekomstige regelgeving voor AI en het delen van data.

Machine learning en datadelen zijn van elementair belang voor de geboorte en de evolutie van AI. En daarmee voor het behoud van onze democratische waarden, welvaart en welzijn. Een machine learning-systeem wordt niet geprogrammeerd, maar getraind. Tijdens het leerproces ontvangt een computer uitgerust met kustmatige intelligentie zowel invoergegevens (trainingdata), als de verwachte, bij deze inputdata behorende antwoorden. Het AI-systeem moet zelf de bijpassende regels en wetmatigheden formuleren met een kunstmatig brein. Algoritmische, voorspellende modellen kunnen vervolgens worden toegepast op nieuwe datasets om nieuwe, correcte antwoorden te produceren.

Dringend nodig: het recht op dataprocessing

De Europese Commissie heeft de ambitie om datasoevereiniteit terug te winnen. Europa moet een internationale datahub worden. Dit vereist een modern juridisch raamwerk in de vorm van de Europese Data Act, die in de loop van 2021 wordt verwacht. Het is naar mijn idee cruciaal dat de Data Act een expliciet recht op dataprocessing bevat.

Technologie is niet neutraal

Tegelijkertijd kan de architectuur van digitale systemen de sociaal-maatschappelijke impact van digitale transformatie reguleren. Een digitaal inclusieve samenleving moet technologie actief vormgeven. Technologie an sich is namelijk nooit neutraal. Maatschappelijke waarden zoals transparantie, vertrouwen, rechtvaardigheid, controle en cybersecurity moeten worden ingebouwd in het design van AI-systemen en de benodigde trainingdatasets, vanaf de eerste regel code.

Read more

Strategic partnership Slijpen Legal en Juridisch Advies Voor Bedrijven

Strategische samenwerking

Nichekantoor Slijpen Legal en rechtskundig adviesbureau Juridisch Advies Voor Bedrijven sluiten een strategic partnership. Met deze samenwerking beogen beide bedrijven een synergie-effect te creëren op het gebied van outsourcing, kennisoverdracht, marketing, online presence en innovatie. Doel van de strategische samenwerking is het bewerkstelligen van een lange termijn win-win situatie.

Multidisciplinaire aanpak: kruisbestuiving van disciplines

De kruisbestuiving van disciplines die Slijpen Legal en Juridisch Advies Voor Bedrijven voor ogen hebben biedt kansen voor groei. Wij hebben een partnership gerealiseerd waarbij het cliëntenspectrum van de beide kantoren in combinatie met de juridische specialisaties elkaar complementeren en versterken. Waarbij het geheel meer is dan de som van de delen.

Read more

Ondernemen in het buitenland: Sectorspecifieke regelgeving

Zakendoen met buitenlandse ondernemers of handelspartners

Internationaal zakendoen betekent het opbouwen van een betrouwbaar handelsnetwerk. Handelspartners met wie u op een fatsoenlijke manier handel kunt drijven. Klanten die zich houden aan uw betalingsvoorwaarden en leveranciers die zich houden aan de overeengekomen leveringsvoorwaarden. Ook op juridisch gebied vraagt een en ander om branchespecifiek maatwerk.

Zakendoen met buitenlandse ondernemers vereist derhalve een netwerk van integere zakenpartners waarop u kunt bouwen en waarmee u heldere afspraken kunt maken.

Branche specifieke vereisten vanuit bedrijfsrechtelijk oogpunt

De wijze waarop er zaken wordt gedaan en waarover en hoe er wordt onderhandeld zal sterk afhankelijk zijn van de cultuur en de wetgeving van het land waarin u zich op dat moment bevindt. Kennis van de lokale markt alsook van de cultuur van de bevolking en de persoonlijke omgangsvormen is dan ook een absolute must voor internationaal georiënteerde bedrijven.

We nemen in onderstaande blog enkele in het oog springende sectoren onder de loep en bespreken in vogelvlucht vanuit bedrijfsrechtelijk oogpunt de voornaamste branchespecifieke vereisten.

Read more

Internationaal Zakendoen

Wat moet er juridisch geregeld zijn bij het internationaal zakendoen?

Bij het zakendoen over de grens komen een hoop zaken kijken. Ook op juridisch gebied. Denk aan importeren of exporteren van uw producenten en diensten binnen en buiten de Europese Unie, uitbreiden met buitenlandse vestigingen en samenwerkingsverbanden met internationale partners. Maar denk ook aan cultuurverschillen en afwijkende wettelijke vereisten. Als uw bedrijf zaken gaat doen met buitenlandse ondernemers of leveranciers, lees onderstaand artikel dan aandachtig door..

Internationale handelstransacties

Een belangrijk aspect van grensoverschrijdend ondernemen is het doen van internationale handelstransacties. Daarbij is het van groot belang dat u ruime kennis heeft van de specifieke exportmarkt en dat u contact legt met betrouwbare zakenpartners. Juridisch advies voor bedrijven biedt u vervolgens juridische ondersteuning bij het formaliseren van gemaakte afspraken.

Verkoopovereenkomst, licentiecontract en leveringsvoorwaarden

Onze werkzaamheden bestaan dan bijvoorbeeld uit het opstellen van een verkoopovereenkomst, opdrachtverleningsdocument of licentiecontract inzake intellectueel of industrieel eigendom. Of uit het screenen van algemene voorwaarden waaronder leveringsvoorwaarden en betalingscondities.

Read more

Consumentenrechten, rechtvaardigheid en contractsverhoudingen

Ethische beschouwingen over Europees consumentenrecht en contractenrecht

Recht en rechtvaardigheid zijn nauw met elkaar verbonden. Ook binnen het vermogensrecht, het overeenkomstenrecht in het bijzonder, is rechtvaardigheid een van de dragende beginselen. Hoewel het contractenrecht van oudsher gestoeld is op de vereffenende rechtvaardigheid, is de laatste decennia een verschuiving zichtbaar.

Die verschuiving komt zeer duidelijk tot uitdrukking op het gebied van het (Europees) consumentenrecht. Het consumentenrecht is een relatief jong rechtsgebied dat gekenmerkt wordt door een overvloed aan regelgeving met als doel de categoriale dwingendrechtelijke bescherming van consumenten.

Read more

Buitenlandse Werkgever, Binnenlandse Werknemer

Buitenlandse werkgevers die werknemers in Nederland in dienst nemen

Dit artikel bespreekt – in telegramstijl - een aantal juridische aspecten van de situatie waarin een buitenlandse werkgever Nederlandse werknemers wenst in te huren in Nederland. Hoewel er een zekere mate van coördinatie binnen de EU (door middel van Verordening 883/2004 van de EU), verschillen regels inzake sociale zekerheid, pensioenregeling en belastingen aanzienlijk binnen de verschillende EU-lidstaten. Het hebben van een of meer werknemers die in het buitenland werken en/of wonen, of werken voor een werkgever die in het buitenland is gevestigd - bijvoorbeeld Cyprus - heeft een aantal gevolgen voor zowel de werkgever als de werknemer.

Read more