Investigadores de universidades de EE. UU. y Suiza, en colaboraci\u00f3n con Google y DeepMind, han publicado un\u00a0art\u00edculo\u00a0que muestra c\u00f3mo se pueden filtrar los datos de los sistemas de generaci\u00f3n de im\u00e1genes que utilizan los algoritmos de aprendizaje autom\u00e1tico\u00a0DALL-E,\u00a0Imagen\u00a0o\u00a0Difusi\u00f3n estable. Todos estos sistemas funcionan de la misma manera del lado del usuario: escribes una consulta de texto espec\u00edfica, por ejemplo, \u201cun sill\u00f3n con forma de aguacate\u201d y a cambio obtienes una imagen generada.<\/p>\n
Todos estos sistemas est\u00e1n entrenados con un gran n\u00famero (decenas o cientos de miles) de im\u00e1genes con descripciones preparadas previamente. La idea detr\u00e1s de estas redes neuronales es que, cuando consumen una gran cantidad de datos de entrenamiento, pueden crear im\u00e1genes nuevas y \u00fanicas. Sin embargo, la conclusi\u00f3n principal del estudio nuevo es que estas im\u00e1genes no siempre son tan \u00fanicas. En algunos casos, es posible forzar la red neuronal para que reproduzca casi exactamente una imagen original utilizada previamente para el entrenamiento. Eso significa que las redes neuronales pueden revelar informaci\u00f3n privada<\/p>\n
El resultado de un sistema de aprendizaje autom\u00e1tico en respuesta a una consulta puede parecer m\u00e1gico para una persona que no es especialista: \u201c\u00a1Vaya, es como un robot que lo sabe todo!\u201d Pero en realidad no hay ninguna magia\u2026<\/p>\n
Todas las redes neuronales funcionan m\u00e1s o menos de la misma manera: se crea un algoritmo que se entrena con un conjunto de datos, por ejemplo, una serie de im\u00e1genes de gatos y perros, con una descripci\u00f3n de lo que se representa exactamente en cada imagen. Despu\u00e9s de la etapa de entrenamiento, se le muestra al algoritmo una nueva imagen y se le pide que averig\u00fce si es un gato o un perro. Desde estos humildes comienzos, los desarrolladores de dichos sistemas pasaron a un escenario m\u00e1s complejo: el algoritmo entrenado con muchas im\u00e1genes de gatos crea una imagen de una mascota que nunca existi\u00f3 a pedido. Estos experimentos se llevan a cabo no solo con im\u00e1genes, sino tambi\u00e9n con texto, v\u00eddeo e incluso voz.<\/p>\n
Para todas las redes neuronales, el punto de partida es un conjunto de datos de entrenamiento: las redes neuronales no pueden inventar nuevas entidades de la nada. Para crear una imagen de un gato, el algoritmo debe estudiar miles de fotograf\u00edas o dibujos reales de estos animales. Hay muchos argumentos para mantener la confidencialidad de estos conjuntos de datos. Algunos de ellos son de dominio p\u00fablico; otros conjuntos de datos son propiedad intelectual de la empresa desarrolladora que invirti\u00f3 tiempo y esfuerzo considerables en su creaci\u00f3n con la esperanza de lograr una ventaja competitiva. Otros, por definici\u00f3n, constituyen informaci\u00f3n confidencial. Por ejemplo, se est\u00e1n llevando a cabo experimentos para utilizar redes neuronales a fin de diagnosticar enfermedades a partir de rayos X y otros estudios m\u00e9dicos de diagn\u00f3stico por im\u00e1genes. Esto significa que los datos de entrenamiento algor\u00edtmicos contienen los datos de salud reales de personas reales que, por razones obvias, no deben caer en las manos equivocadas.<\/p>\n
Sobre los derechos de autor<\/strong><\/p>\n En enero de 2023, tres artistas\u00a0demandaron a\u00a0los creadores de servicios de generaci\u00f3n de im\u00e1genes que utilizaban algoritmos de aprendizaje autom\u00e1tico. Afirmaron (con justificaci\u00f3n) que los desarrolladores de las redes neuronales las hab\u00edan capacitado con im\u00e1genes recopiladas en l\u00ednea sin ning\u00fan respeto por los derechos de autor. Recordemos que una red neuronal puede copiar el estilo de un artista en particular y, por lo tanto, privarle de ingresos. En el documento, se insin\u00faa que, en algunos casos, los algoritmos pueden cometer plagio total por diversas razones al generar dibujos, fotograf\u00edas y otras im\u00e1genes que son casi id\u00e9nticas al trabajo de personas reales.<\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" Investigadores de universidades de EE. UU. y Suiza, en colaboraci\u00f3n con Google y DeepMind, han publicado un\u00a0art\u00edculo\u00a0que muestra c\u00f3mo se pueden filtrar los datos de los sistemas de generaci\u00f3n de im\u00e1genes que utilizan los algoritmos de aprendizaje autom\u00e1tico\u00a0DALL-E,\u00a0Imagen\u00a0o\u00a0Difusi\u00f3n estable. Todos estos sistemas funcionan de la misma manera del lado del usuario: escribes una consulta de […]<\/p>\n","protected":false},"author":1,"featured_media":163463,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[46],"tags":[],"class_list":["post-163462","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ciencia-computacion"],"acf":{"antetitulo":""},"yoast_head":"\n