di Andrea Simoncini

SOMMARIO: 1. Il potere tecnologico e il suo carattere costituzionale. – 2. Come regolare il nuovo potere? Le ragioni di una ricerca di diritto costituzionale, tra forma di stato e forma di governo. – 3. Il ruolo delle autorità indipendenti: nuove ragioni per la loro costituzionalizzazione.

With the emergence of the technological revolution, the centres of law production and the subjects called upon to implement or monitor compliance with it multiplied. With one consequence: the transfiguration of the system of sources, the form of state and form of government change. In other words, the relationship between authority and freedom and the forms of distribution of public power changed, with a renewed prominence of independent authorities.

 di Costanza Masciotta

SOMMARIO: 1. Introduzione. – 2. Le linee guida sul processo decisionale automatizzato: un’importante specificazione dei diritti degli interessati. – 3. L’opinion n. 4/2020 dell’EDPS e le criticità espresse rispetto al Libro bianco della Commissione europea sull’intelligenza artificiale. – 4. L’opinion dell’EDPS sul Digital Services Act richiede maggiori garanzie dinanzi all’uso di mezzi automatizzati. – 5. I principi fondamentali in materia di IA e alcune raccomandazioni per il futuro: il report della CNIL sull’intelligenza artificiale come volano per una futura regolazione giuridica. – 6. Casi problematici in tema di decisioni algoritmiche: l’APB e la mancanza di un intervento umano. – 7. Parcoursup e il parere favorevole della CNIL sul suo funzionamento. – 8. Il riconoscimento facciale al vaglio della CNIL: elementi di continuità con la posizione dell’EDPS. – 9. Considerazioni conclusive.

The essay hereto aims at outlining useful guidelines for future regulation of algorithms and artificial intelligence, starting from the analysis of some reference acts from independent authorities guaranteeing the protection of personal data in the European sphere, furthermore looking at the contribution they have provided to the regulatory framework and assessing whether the indications provided by them on the subject have been incorporated in the regulations proposed by the European political institutions. Some acts of the European Data Protection Supervisor (EDPS) and the Commission Nationale de l’Informatique et des Libertés (CNIL) will be analyzed, such as EDPS opinion n. 4/2020 on the white paper of the European Commission concerning AI, the EDPS opinion on the proposal for the Digital Services Act regulation, the CNIL report on ethical issues raised by AI and some decisions of the French National Commission with reference to algorithmic decisions and the use of facial recognition devices: these are acts which have played a key role in the creation of a new “European algorithmic Constitutionalism”.

di Valentina Pagnanelli

SOMMARIO: Premessa. Un’indagine a partire dalla prassi. – 1. Quali algoritmi? L’oggetto della ricerca. – 2. Il Garante e l’uso degli algoritmi nel settore privato: dalla identificazione alla analisi biometrica “anonima”. – 3. Il Garante e l’uso degli algoritmi nel settore pubblico: dalla sorveglianza mirata alla “sorveglianza universale”. – 4. Spunti di riflessione sul ruolo costituzionale del Garante nella regolazione delle decisioni algoritmiche.

Moving from the results of a research on the provisions of the Italian Data Protection Authority regarding algorithmic decisions, the paper offers some reflections on the constitutional role of the DPA in the governance of the digital society, characterized by Big Data and the development of Artificial Intelligence techniques. In the conclusions, the contribution questions the relations of the DPA with other European and national Authorities intended to regulate Artificial Intelligence and cyber security.

di Stefano Torregiani

SOMMARIO: 1. Introduzione. – 2. Premessa: le principali questioni riguardanti il dato non personale. – 3. Gli interventi delle autorità amministrative indipendenti. – 3.1 Il primo argine: l’interpretazione del concetto di identificabilità. – 3.2 In cerca di una risposta per i nuovi quesiti posti dai Big Data. – 3.3 Prime osservazioni sull’opportunità di regolare la decisione algoritmica in Francia. – 3.4 L’approccio normativo nell’opinione della Data Ethics Commission tedesca . – 4. Osservazioni conclusive

The ever-expanding power of algorithms designed to make decisions that significantly affect physical persons raises important questions regarding the way the law should protect individuals. The hegemonic capacity proven by the regulation on the processing of personal data, always considered the most suitable basis to legally frame automated decisions, has partly eclipsed other issues and legislations. This paper aims to examine the phenomenon of algorithmic decision-making through the lens of non-personal data by analyzing the documents of some of the European independent administrative authorities that focus on the issues stemming from the lacking attention paid to the strict relation between this type of data and algorithmic systems. Lastly, this work tries to detect the gaps of the legal framework and to understand how the European legislator could address the topic of the algorithmic decision-making in the next years.

di Carlo Colapietro

SOMMARIO: 1. Circolazione e protezione dei dati e la necessaria regolazione. – 2. Comprensibilità e legittimità nei trattamenti automatizzati. – 3. Qualità dei dati analizzati nell’ambito delle decisioni automatizzate.

The worldwide circulation and constant exchange of personal data entails the need for rules that ensure a high degree of protection for the fundamental rights of the individual. Especially when the processing of personal data involves automated decisions. Particular principles and determined rules must be observed unequivocally in order to avoid discrimination, biases and possible abuses. In this respect, it should be noted that some GDPR rules offer promising starting points for new interpretations. However, the EU Regulation approach could present some significant limitations.

di Edoardo Caterina

SOMMARIO: 1. Introduzione. – 2. Neutralità della rete e decisione algoritmica. – 3. Trasparenza algoritmica e lotta alla disinformazione in rete: quadro delle esperienze nazionali nella UE. – 3.1. L’esperienza francese del CSA. – 3.2. L’esperienza tedesca delle Landesmedienanstalten. – 4. Conclusioni: verso il regolamento UE sui servizi digitali.

The paper analyses the role of independent European telecommunications authorities in the context of algorithmic accountability. It will also briefly illustrate which possible evolutions may result from the future Digital Services Act (DSA).

di Matteo Giannelli

SOMMARIO: 1. Premessa. – 1.1 Tra analisi e indagini conoscitive: piattaforme digitali e sistema dell’informazione. – 1.2 Le modifiche al Regolamento dell’Autorità per la valorizzazione delle attività di analisi e di studio. – 2. AGCOM, trasparenza nella selezione dei contenuti, consapevolezza degli utenti circa i contenuti e le informazioni ricevute online. I limiti delle forme di auto-regolazione. – 3. Ambiti e strategie di intervento recenti: qualità dell’informazione, pluralismo e Web Analytics. - 4. Due casi di studio sul tema delle decisioni algoritmiche. - 4.1 (segue) Il divieto di pubblicità di giochi e scommesse e i servizi di indicizzazione e promozione di siti web. 4.2. (segue) l’atto di richiamo sul rispetto dei principi vigenti a tutela della correttezza dell’informazione e la lettera per le piattaforme di condivisione con riferimento al tema Covid-19. – 5. La nuova consiliatura e le sfide della regolazione, tra pluralismo e innovazione tecnologica.

The essay aims to analyse and describe the practice of decisions, studies and any other documentation that AGCOM has published on the subject of algorithmic decisions in recent years. Through this analysis some observations will be made on the role that the Authority may play in the coming years in the regulation of phenomena linked to technological innovation.

di Elia Cremona

SOMMARIO: 1. Due considerazioni in premessa – 2. L’erompere dei poteri privati nei mercati digitali – 3. Paradigmi classici e problemi contemporanei – 4. Le traiettorie del diritto antitrust nella digital economy – 4.1. Concentrazione di dati e potere di mercato – 4.2. I dati come prezzo, la privacy come nuova base giuridica dell’enforcement antitrust – 4.3. I Big Data (e gli algoritmi che li processano) come essential facilities nel mercato della pubblicità online – 4.4. Collusione algoritmica e intese 4.0 – 4.5. Concorrenza nel mercato, concorrenza al mercato – 5. Conclusioni per un recupero (o una ricerca) del fondamento costituzionale della disciplina della concorrenza nell’era digitale.

Today, the rise of new private powers in the digital environment - the large online platforms that are the masters of the world's most intelligent algorithms - is transforming markets, overturning established paradigms and forcing the legal system, at times, to use old instruments for new purposes, at other times to devise entirely new ones. In the fourth industrial revolution, the most traditional concepts of antitrust law, once transplanted into the digital environment, seem to be unstable. Consider the notion of consumer welfare, the definition of the relevant market, market power, abuse of dominant position, all of which are being challenged globally: antitrust law seems to be shaken from its foundations. It is not able to prevent the formation of monopolies and has to link up with other regulatory systems, especially data protection regulations, to combat new concentrations of power. But if a battle against Big Tech is to be fought, antitrust law needs to regain its authentic constitutional foundation, which combines the protection of the economic efficiency of the market with the protection of equality and freedom.

di Filippo Bagni

SOMMARIO: 1. Gli algoritmi nel mercato del credito. – 1.1. L’utilizzo degli algoritmi per la profilazione del consumatore di servizi bancari. – 1.2. Gli effetti sulle indagini di default e il raffronto con i modelli statistici standard. – 2. Il quadro normativo in tema di rating bancario. – 2.1. La necessità di regolamentare l’utilizzo della tecnologia (anche) nel sistema bancario. – 2.2. La normativa di derivazione europea. – 2.3. La (scarna) normativa nazionale di riferimento – 3. Il ruolo delle autorità indipendenti. – 3.1. Linee guida della BCE (2018): assessment per la valutazione del merito creditizio delle c.d.d. Fintech Banks. – 3.2. Banca d'Italia: ruolo, obiettivi e provvedimenti. – 3.3. La strada indicata dall’EBA: inquadramento giuridico e fonti di regolazione in tema di credit scoring per mezzo di tecniche IA/ML. – 4. Il riflesso sull’accountability delle banche nazionali: assessment di tecniche di ML di nuova introduzione per la profilazione del cliente alla luce dei principi regolatori. – 5. Conclusioni: l’esigenza di una regolamentazione specifica e l’aspetto reputazionale delle banche.

After the 2008 crisis, banks are increasingly investing in bank rating by applying algorithmic techniques to improve the creditworthiness of customers. The European regulator and supervisory authorities are asking banks to adopt profiling methods that are both efficient and legitimate in terms of data processing, but they have not yet identified clear and definite legislation. It is necessary to promote the introduction of rules and principles expressly referring to the issue of algorithms applied to bank rating by defining a sustainable ethical-legal framework within which they can operate. In its recent Proposal for a Regulation on AI, the European Commission identifies among the 'high-risk' AI systems those used by banks to evaluate the credit score or creditworthiness of natural persons. This proposal may represent the future specific regulation that the banking system needs.

di Giovanna De Minico

SOMMARIO: 1. I punti di snodo del ragionamento. - 2. Riflessioni sul rifiuto dell’Autorità per le garanzie nelle comunicazioni di regolare la Rete. - 3. Come gli algoritmi modificano i paradigmi della Lex mercatoria? - 4. Verso l’interpretazione teleologicamente orientata della Lex mercatoria. - 5. L’abuso di posizione dominante riscritto dagli algoritmi. - 6. Le sanzioni oltre le competenze: tra privacy e competition. - 7. Verso un nuovo rapporto tra le Autorità indipendenti. - 8. E il cerchio si potrebbe chiudere a condizione di…

Does Artificial Intelligence change the regulatory and oversight functions of the A.G.Com. and A.G.C.M.? Could a technologically oriented interpretation extend disciplines originally written for off-line markets to online anti-competitive behaviors?
Finally, does coordination between Authorities require the European Artificial Intelligence Board? Or can this aim be reached thanks to a dialogue between existing Authorities? Indeed, the latter solution could point to an unprecedented convergence of fundamental freedoms with economic rights both at the European and national levels.

di Andrea Cardone

When we talk about algorithmic decisions and their regulation, we are implicitly used to thinking about individual decisions, forgetting that the use of algorithms is also having significant effects on the way in which general and abstract decisions are taken. For this reason, the contribution will focus on those aspects in which the use of algorithms is already conditioning the legislative process.

di Giovanni Tarli Barbieri

SOMMARIO: 1. Le ragioni di un Seminario tra presente e futuro. – 2. Le sfide del presente. – 3. Quale regolazione delle decisioni algoritmiche (nell’ottica delle autorità indipendenti)?

Overview of the role of the independent administrative authorities in the regulation of algorithmic decisions

di Enzo Cheli