{"id":6936,"date":"2024-11-04T10:45:30","date_gmt":"2024-11-04T10:45:30","guid":{"rendered":"https:\/\/lisbonpubliclaw.pt\/?post_type=blog&p=6936"},"modified":"2024-12-17T10:46:23","modified_gmt":"2024-12-17T10:46:23","slug":"a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa","status":"publish","type":"blog","link":"https:\/\/lisbonpubliclaw.pt\/en\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/","title":{"rendered":"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa"},"content":{"rendered":"\n

O debate sobre intelig\u00eancia artificial (IA) ao lado das quest\u00f5es sobre altera\u00e7\u00f5es clim\u00e1ticas ocupam o bojo do debate p\u00fablico atual. O surgimento da IA generativa, por sua vez, gerou um hype<\/em> nos \u00faltimos dois anos, quando se popularizou, nomeadamente atrav\u00e9s do lan\u00e7amento do ChatGPT.  Suas funcionalidades abriram portas para um panorama futur\u00edstico, onde tudo seria endere\u00e7ado atrav\u00e9s destes sistemas e, tamb\u00e9m por isso, suscitou debates e cr\u00edticas na mesma propor\u00e7\u00e3o acerca dos malef\u00edcios desta ferramenta.<\/p>\n\n\n\n

Sua \u201cmagia\u201d est\u00e1 na capacidade de criar novos padr\u00f5es e respostas, sem inputs <\/em>humanos, ou seja, a compreens\u00e3o adquirida no sistema de IA generativa se torna capaz de gerar e criar novos dados, como textos, imagens e \u00e1udios, semelhantemente aos utilizados na forma\u00e7\u00e3o inicial do padr\u00e3o, sem a necess\u00e1ria interven\u00e7\u00e3o pr\u00e9via humana na classifica\u00e7\u00e3o e padroniza\u00e7\u00e3o destes dados. Para isso, a IA Generativa utiliza-se de Machine Learning e Deep Learning <\/em>e, mais precisamente, de Large Language Models (LLMs)<\/em>, para processar imensa quantidade dados rotulados e n\u00e3o-rotulados, a fim de proporcionar a cria\u00e7\u00e3o de outcomes<\/em>, a partir do \u201caprendizado\u201d \u00ednsito do algoritmo.<\/p>\n\n\n\n

Esta mudan\u00e7a de eixo de uma IA \u201ctradicional\u201d para IA Generativa, passou a exigir mais aten\u00e7\u00e3o quanto \u00e0 qualidade dos dados de treinamentos, valida\u00e7\u00e3o e teste, superando a l\u00f3gica inicial vigente de garbage in, garbage out<\/em>, para um olhar atento aos resultados, em fun\u00e7\u00e3o da inventividade do modelo generativo de IA.<\/p>\n\n\n\n

Entende-se, pelo Artificial Intelligence Act<\/a><\/strong> (AI Act), como dados de treinamento, aqueles dados usados para treinar um sistema de IA, mediante o ajustamento dos seus par\u00e2metros pass\u00edveis de serem aprendidos e, dados de valida\u00e7\u00e3o, como aqueles utilizados para realizar uma avalia\u00e7\u00e3o do sistema de IA treinado e, ajustar os seus par\u00e2metros n\u00e3o pass\u00edveis de serem aprendidos e o seu processo de aprendizagem.<\/p>\n\n\n\n

Assim, os principais riscos para aprendizagem de m\u00e1quina, segundo Philipp Hacker<\/strong><\/a>, s\u00e3o os i) riscos para a qualidade dos dados; ii) riscos de discrimina\u00e7\u00e3o; e iii) riscos de inova\u00e7\u00e3o. Neste sentido, o autor \u00e9 pontual ao comentar que os dados de treinamento e valida\u00e7\u00e3o tem fun\u00e7\u00e3o primordial para a correta aprendizagem de m\u00e1quina, a fim de eliminar os riscos centrais supramencionados, nomeadamente na atividade inventiva \u201caut\u00f4noma\u201d.  <\/p>\n\n\n\n

Em termos regulat\u00f3rios, o recente aprovado AI Act, pretende conferir maior prote\u00e7\u00e3o aos dados utilizados nestes modelos de treinamento, para garantir a qualidade do resultado, atrav\u00e9s de treino, valida\u00e7\u00e3o e teste. O  artigo 10.\u00ba, traz uma s\u00e9rie de regras para sistemas de IA de risco elevado que se utilizem de treinamento de modelos com dados.<\/p>\n\n\n\n

Os conjuntos de dados de treino, valida\u00e7\u00e3o e teste devem estar sujeitos \u00e0 pr\u00e1ticas adequadas de governa\u00e7\u00e3o e gest\u00e3o de dados, sendo que tais pr\u00e1ticas dizem nomeadamente respeito, dentre outras, a) \u00e0s escolhas de conce\u00e7\u00e3o pertinentes; b) \u00e0 recolha de dados, origem, e caso sejam dados pessoais, a finalidade original da recolha; c) \u00e0s opera\u00e7\u00f5es de prepara\u00e7\u00e3o e tratamento de dados necess\u00e1rias, tais como anota\u00e7\u00e3o, rotulagem, limpeza, enriquecimento e agrega\u00e7\u00e3o; d) \u00e0 formula\u00e7\u00e3o dos pressupostos aplic\u00e1veis, nomeadamente no que diz respeito \u00e0s informa\u00e7\u00f5es que os dados devem medir e representar; e) avalia\u00e7\u00e3o pr\u00e9via da disponibilidade, quantidade e adequa\u00e7\u00e3o dos conjuntos de dados que s\u00e3o necess\u00e1rios; f) ao exame para detectar eventuais enviesamentos; g) medidas adequadas para detectar, prevenir e atenuar eventuais enviesamentos identificados nos termos da al\u00ednea.<\/p>\n\n\n\n

Um importante passo foi dado em rela\u00e7\u00e3o a uma regula\u00e7\u00e3o eficiente da IA Generativa, sem, contudo, nos iludirmos que ser\u00e1 suficiente. A tecnologia \u00e9 incrivelmente mais r\u00e1pida que a resposta que o Direito poder\u00e1 oferecer!<\/p>\n\n\n\n

#ia #iagenerativa #regula\u00e7\u00e3o # direito #protecaodedados #aiact #fdul #lpl<\/strong><\/p>\n","protected":false},"template":"","meta":[],"categoria-blog-observatorio":[],"cluster":[48],"grupo-de-investigacao":[],"class_list":["post-6936","blog","type-blog","status-publish","hentry","cluster-lisbon-digital-rights"],"yoast_head":"\nA prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/lisbonpubliclaw.pt\/en\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa\" \/>\n<meta property=\"og:description\" content=\"O debate sobre intelig\u00eancia artificial (IA) ao lado das quest\u00f5es sobre altera\u00e7\u00f5es clim\u00e1ticas ocupam o bojo do debate p\u00fablico atual. O surgimento da IA generativa, por sua vez, gerou um hype nos \u00faltimos dois anos, quando se popularizou, nomeadamente atrav\u00e9s do lan\u00e7amento do ChatGPT.  Suas funcionalidades abriram portas para um panorama futur\u00edstico, onde tudo seria […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/lisbonpubliclaw.pt\/en\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/\" \/>\n<meta property=\"og:site_name\" content=\"Lisbon Public Law\" \/>\n<meta property=\"article:modified_time\" content=\"2024-12-17T10:46:23+00:00\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data1\" content=\"4 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/\",\"url\":\"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/\",\"name\":\"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa\",\"isPartOf\":{\"@id\":\"https:\/\/lisbonpubliclaw.pt\/#website\"},\"datePublished\":\"2024-11-04T10:45:30+00:00\",\"dateModified\":\"2024-12-17T10:46:23+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/lisbonpubliclaw.pt\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Blog\",\"item\":\"https:\/\/lisbonpubliclaw.pt\/blog\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/lisbonpubliclaw.pt\/#website\",\"url\":\"https:\/\/lisbonpubliclaw.pt\/\",\"name\":\"Lisbon Public Law\",\"description\":\"Public Law Research Centre in Lisbon\",\"publisher\":{\"@id\":\"https:\/\/lisbonpubliclaw.pt\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/lisbonpubliclaw.pt\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/lisbonpubliclaw.pt\/#organization\",\"name\":\"Lisbon Public Law\",\"url\":\"https:\/\/lisbonpubliclaw.pt\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/lisbonpubliclaw.pt\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/lisbonpubliclaw.pt\/wp-content\/uploads\/2023\/06\/WhatsApp-Image-2023-06-19-at-11.01.50-1.jpeg\",\"contentUrl\":\"https:\/\/lisbonpubliclaw.pt\/wp-content\/uploads\/2023\/06\/WhatsApp-Image-2023-06-19-at-11.01.50-1.jpeg\",\"width\":354,\"height\":354,\"caption\":\"Lisbon Public Law\"},\"image\":{\"@id\":\"https:\/\/lisbonpubliclaw.pt\/#\/schema\/logo\/image\/\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/lisbonpubliclaw.pt\/en\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/","og_locale":"en_US","og_type":"article","og_title":"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa","og_description":"O debate sobre intelig\u00eancia artificial (IA) ao lado das quest\u00f5es sobre altera\u00e7\u00f5es clim\u00e1ticas ocupam o bojo do debate p\u00fablico atual. O surgimento da IA generativa, por sua vez, gerou um hype nos \u00faltimos dois anos, quando se popularizou, nomeadamente atrav\u00e9s do lan\u00e7amento do ChatGPT.  Suas funcionalidades abriram portas para um panorama futur\u00edstico, onde tudo seria […]","og_url":"https:\/\/lisbonpubliclaw.pt\/en\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/","og_site_name":"Lisbon Public Law","article_modified_time":"2024-12-17T10:46:23+00:00","twitter_card":"summary_large_image","twitter_misc":{"Est. reading time":"4 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/","url":"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/","name":"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa","isPartOf":{"@id":"https:\/\/lisbonpubliclaw.pt\/#website"},"datePublished":"2024-11-04T10:45:30+00:00","dateModified":"2024-12-17T10:46:23+00:00","breadcrumb":{"@id":"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/lisbonpubliclaw.pt\/blog\/a-protecao-de-dados-na-essencia-de-uma-regulacao-eficiente-sobre-ia-generativa\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/lisbonpubliclaw.pt\/"},{"@type":"ListItem","position":2,"name":"Blog","item":"https:\/\/lisbonpubliclaw.pt\/blog\/"},{"@type":"ListItem","position":3,"name":"A prote\u00e7\u00e3o de dados na ess\u00eancia de uma regula\u00e7\u00e3o eficiente sobre IA generativa"}]},{"@type":"WebSite","@id":"https:\/\/lisbonpubliclaw.pt\/#website","url":"https:\/\/lisbonpubliclaw.pt\/","name":"Lisbon Public Law","description":"Public Law Research Centre in Lisbon","publisher":{"@id":"https:\/\/lisbonpubliclaw.pt\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/lisbonpubliclaw.pt\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/lisbonpubliclaw.pt\/#organization","name":"Lisbon Public Law","url":"https:\/\/lisbonpubliclaw.pt\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/lisbonpubliclaw.pt\/#\/schema\/logo\/image\/","url":"https:\/\/lisbonpubliclaw.pt\/wp-content\/uploads\/2023\/06\/WhatsApp-Image-2023-06-19-at-11.01.50-1.jpeg","contentUrl":"https:\/\/lisbonpubliclaw.pt\/wp-content\/uploads\/2023\/06\/WhatsApp-Image-2023-06-19-at-11.01.50-1.jpeg","width":354,"height":354,"caption":"Lisbon Public Law"},"image":{"@id":"https:\/\/lisbonpubliclaw.pt\/#\/schema\/logo\/image\/"}}]}},"_links":{"self":[{"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/blog\/6936","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/types\/blog"}],"wp:attachment":[{"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/media?parent=6936"}],"wp:term":[{"taxonomy":"categoria-blog-observatorio","embeddable":true,"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/categoria-blog-observatorio?post=6936"},{"taxonomy":"cluster","embeddable":true,"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/cluster?post=6936"},{"taxonomy":"grupo-de-investigacao","embeddable":true,"href":"https:\/\/lisbonpubliclaw.pt\/en\/wp-json\/wp\/v2\/grupo-de-investigacao?post=6936"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}