Inteligencia Artificial 1. Algoritmo
Compartir en TwitterInteligencia Artificial.1
Algoritmo. Algorithm.
Tulio Rosembuj. Mayo de 2018
Abstract.
The algorithm is not a mere mathematical formulation. It is a programming design based on the data that support it, higher in better quantity and, also, the source of rules of conduct based on predictions and probabilities of data on human behavior, for modify it, channel it or direct it. The algorithm allows us to transform our subjectivity as a person into code; but, in parts, in fractals, turning the individual into individual. The mathematical model is threatening because it is a weapon loaded with prejudices, weaknesses, errors. The past guides the compulsive programmers towards their projection in the future, a replica of any dictatorship with pretensions of intellectual superiority. Artificial intelligence constructs the dogma of technological supremacy on sandy bases because it attends to control, vigilance, punishment as means of profit or security or defense. The social power of the algorithm is nourished by its public relevance, its institutionalization, its necessary subordination of the public and social sphere to its framework. Algorithmic authority is the form of influence that is exercised on the behavior of individuals, with no other pretension than its program, design and practice. So, we are talking about a source of de facto law, opaque and secret, which impose rights and obligations, a source that decides by itself the inclusion or exclusion of its consequences, the retribution or punishment on people such as other people programs.
1.Algoritmo. Algorithm
El algoritmo es el núcleo del proceso informático y de los programas, y significa una secuencia específica de operaciones lógicas que proveen paso a paso instrucciones a los ordenadores para que actúen sobre los datos incorporados y adopten predeterminadas decisiones automatizadas. Los resultados se basan en entradas de datos y parámetros decisionales.
“An algorithm is a sequence of instructions telling a computer what to do. Every algorithm has an input and a output: the data goes into the computer, the algorithm does what it will with it, and outcomes the result.” (P. Domingos).
La primera aproximación es obvia porque atiende una noción inequívoca definicional:” encoded procedures for transforming input data into a desired output based in specific calculations”.
El problema consiste en desvelar la verdadera naturaleza del algoritmo y su importancia nuclear en la digitalización. Esto nos lleva más allá de la definición.
El algoritmo es, en verdad, el mecanismo central de la digitalización y de la automatización. La digitalización identifica la necesidad de datos aptos para su codificación informática y la automatización es la sucesión de resultados programados algorítmicamente, con prescindencia o casi de la intervención humana. Pero, sería equivocado asignarle solo una función descriptiva, secuencia objetiva de instrucciones dirigidas a la producción de resultados precisos e inequívocos, dotada de neutralidad e imparcialidad.
No se trata solo de una secuencia de instrucciones realizadas para transformar los datos que le alimentan para una toma aséptica de decisiones previstas, sin injerencia humana, cuyos resultados responden a circunstancias externas.
Sería simple definir el algoritmo en puros términos matemáticos. Pero, hay elementos que distinguen su trascendencia y que van más allá del diseño, de la programación, de su práctica y cuya consideración es necesaria antes en su diseño, en su práctica y, sobre todo, por los resultados que genera sobre terceros.
Por un lado, el algoritmo requiere datos para su aplicación y cuanto mayor sea la cantidad mejor, porque sin esa alimentación estadística carece de oportunidad de cumplir con lo principal de su diseño que es establecer sus propias reglas de procedimiento idóneas para modificar el comportamiento de los usuarios finales que lo emplean o sobre los que se emplea.
Por otro, que las decisiones son la consecuencia necesaria de las reglas creadas para determinar la formulación de probabilidades y predicciones sobre cualquier materia social a su alcance. Esto es, el algoritmo es fuente de reglas de conducta basada en predicciones y probabilidades de datos sobre el discurso humano, para modificarlo, encauzarlo o dirigirlo.
El itinerario lógico del algoritmo supera su definición formal matemática y deviene un medio, mecanismo, instrumento de reforma de los datos que solicita y su producción como algo distinto, de claros efectos externos, que atienden el reconocimiento de categorías digitales, la construcción de modelos y perfiles de comportamiento social.
Soshana Zuboff, observa” that information technology has a duality which she calls “computer mediated” and it means automation and information at the same time. The computer, in this sense, is not only the medium of information but it also produces information.”
El algoritmo es la pieza que permite, merced a su continua sofisticación y complejidad, que el poder mecánico de los ordenadores, analicen y examinen ilimitada cantidad de datos de información, que faciliten la producción de ponderada nueva información, con cualquier finalidad productiva, de control, de vigilancia, o, inclusive, de castigo.
La subordinación algorítmica de cualquier discurso humano a su propia métrica crea lenguajes de conocimiento público, amparados, no obstante, por el secreto posesorio y el secreto propietario del capital intelectual. La creación de lenguaje equivale a la fundación de conocimiento. Hay un apoderamiento de categorías de reflexión hasta ahora reservadas al método científico, político, religioso, cultural.
El algoritmo transforma aquello que sería nuestra subjetividad en código. La persona digital no existe: hay partes de cada uno que acceden al mundo digital, dividual, aunque no puede recoger el ser humano en su completo sistema de razón, inteligencia, emoción. La construcción de algoritmos no es perfecta ni neutral, puesto que responde a las mismas limitaciones que orientan a cualquier persona sobre sus creencias, ideas, capacidad y los resultados le contemplan.
C. O ‘Neill califica el modelo matemático que inspira al algoritmo y la economía de datos como Armas de Destrucción Matemática (Weapons of Mathematics Destruction). El lado oscuro de la innovación tecnológica plagado de prejuicios, malentendidos, sesgos de inequidad que se expande sobre la persona. Y la sociedad. Es una fuerza incontrolada de secreto y opacidad que imprime premios o sanciones sin apelación, aunque sean erróneos o dañosos.” Tell reflect human biases and prejudices that lead to machine learning mistakes and misinterpretations.” (C.O ´Neill)
El mapa algorítmico destella en imperfecciones que alimentan incertidumbre en sus decisiones, inaccesibilidad a su configuración, conclusiones equivocadas y, en modo preocupante, a la influencia oculta (manipulación) social y política.
“. those that make generally reliable (but subjective and not necessarily correct) decisions based upon complex rules than challenge or confound human capacities for action and comprehension”
La lógica del diseño y práctica del algoritmo está dominada por la inescrutabilidad. Su poder normativo de hecho altera significativamente la vida cotidiana de la persona, para bien o para mal, pero, fundamentalmente, sin autoridad moral ninguna. Y su ámbito es universal, sirviendo como lo hace para calcular tipos de interés de los préstamos, ranking de créditos, riesgo de seguros, evaluaciones de empleo y contratación de trabajadores o, también, en la predicción de tasas de criminalidad o propuestas de sentencias.
“It is difficult, if not impossible, for the consumer or citizen to challenge and adverse decision made about her when the basis for the decision is unavailable.
El algoritmo se revela como un jeroglífico indescifrable obra de los omnipotentes “compulsive programmers”, como dioses, que configuran algo parecido a una mitología de verdad, neutralidad, exactitud y certeza.
“The computer programmer, however, is a creator of universes for which he alone is the lawgiver. So, of course, is the designer of any game. But universes of virtually unlimited complexity can be created in the form of computers programs…systems so formulated and elaborated act of ut their programmed scripts. They compliantly obey their laws and vividly exhibit their obedient behaviour.” J. Weinzenbaum.
El conocimiento adquirido alienta la superioridad tecnológica de una verdad cultural que no deja de ser una pura posibilidad humana sometida a fallos, errores, daños. El creador revela en el algoritmo sus propias ideas, diseminando como conocimiento público y social sus creencias y limitaciones culturales y sociales.
El mérito consiste en la expansión del control, la vigilancia, el castigo, bajo el paraguas de la arquitectura de innovación tecnológica como medio de persuasión y manipulación, en manos de la organización informática- el capital informático- de pocas empresas con poder ilimitado y desregulado.
2.La relevancia pública. The public relevance.
Precisamente, T.Gillespie, inicia la discusión sobre la relevancia pública del algoritmo y las restricciones que pueden advertirse en su configuración.
” Public relevance algorithms are producing and certifying knowledge. That we are turning to algorithms to identify what we need to know is as momentous as having relied on credentialed experts, the scientific method, the common sense, or the Word of God.”
Primero, los perfiles de inclusión – patterns of inclusion-, donde se manifiestan las opciones adoptadas en materia de inclusión y exclusión y cuáles son los datos que sirven para que el algoritmo esté preparado, para actuar automáticamente, sin intervención humana.
Segundo, los ciclos de anticipación –cycles of anticipation-, relativos a las implicaciones de los proveedores para saber y predecir sus usuarios y el modo en que sus conclusiones importan por sus efectos.
La potencia de la estadística, no obstante, inhibe su registro como verdad indiscutible. Las generalizaciones, correlaciones probabilidades no dejan de serlo, por más severo que sea su régimen matemático. Las predicciones no conllevan la certidumbre de su anticipación; verdad y probabilidad no coinciden salvo por afortunado azar. “La espontaneidad de la acción humana confunde cualquier predicción.” (Hans Jonas).
El problema, antes que un tema de diseminación de la verdad es la diseminación de la innovación tecnológica mediante técnicas, ideologías, nociones de persuasión, adoctrinamiento, manipulación de apropiación de datos y su aprovechamiento económico, militar, de seguridad y vigilancia.
Tercero, la valoración de la relevancia – the evaluation of relevance, en cuya virtud el propio algoritmo precisa lo que es y no es relevante para su actuación y, al tiempo, oscurece sus criterios de la visibilidad externa y las elecciones políticas que adopta. Y, no se habla en singular, sino de muchos algoritmos aplicados simultáneamente sobre el fin predispuesto.
Cuarto, la promesa mística de objetividad –the promise of algorithmic objectivity– que es indemostrable, indescifrable y fundada en juicios de valor fracturados o ausentes, donde la incomprensión se aquilata sobre la persona, antes que en la pobreza de la predicción, generalización o correlación algorítmica y la omisión de cualquier valoración de su autonomía moral. La imparcialidad es un puro juicio de valor con pretensión de racionalidad. No puede discutirse lo que no se comprende, se viene a decir.
Los límites de la digitalización no eluden ni pueden hacerlo las restricciones que sirven a la autonomía moral de la persona; sus motivaciones intrínsecas y extrínsecas; la colección, tratamiento y tráfico de los datos de la persona y el alcance universal como fuente de reglas, de decisiones, destinadas a modelar los comportamientos del individuo, a la sazón, dividido, dividual, no solo como consumidor o usuario, sino como ciudadano.
Quinto, el manejo de la práctica –entanglement with practice– anuncia la necesaria subordinación del resultado del algoritmo a su éxito sobre el comportamiento de los usuarios, porque, de no conseguirlo, fracasa. Y ello, supone tomar constancia de su infinita paciencia permanente en la captación de confianza, la vigilancia sobre los efectos que produce y, asimismo, su flexibilidad para adaptarse a los cambios que los usuarios promueven u orientan.
Sexto, la producción de opinión pública, como forma de influencia en la masa de usuarios, una forma, también, de orientación social, cultural, política. El algoritmo se convierte en editor de posiciones y contenidos sobre cualquiera de los temas que advierten categorías, segmentos, clases o grupos sociales.
La relevancia de los algoritmos como producción de conocimiento e información, al amparo del secreto posesorio y el secreto propietario de sus autores, trascienden la descripción matemática para incursionar en una pretensión de modelo dirigido a clasificar, crear categorías, segmentos de ciudadanos, en cada una de sus partes, como regulares proveedores de datos personales, para su transformación en reglas y dirección de comportamientos futuros. Y es una actividad que está en manos de pocos productores de información con exclusión de casi todos los demás. El algoritmo aspira a su difusión amplia en el servicio público o colectivo cuando sus procedimientos son preservados del conocimiento general, sin que sepamos como se gestiona su relevancia sobre los otros.
No hay una visión tecnológica que en si misma explique las cajas negras del algoritmo. Ni, tampoco, una acreditada superioridad moral o social sobre el conocimiento y la información que se encauza. Los constructores de algoritmos aspiran a preservar indemne el concepto de lo público que les inspira, porque se entiende que la innovación tecnológica que se presenta obvia convencer sobre el culto tecnológico de sí mismos. La opacidad es el vehículo maestro de la racionalidad, objetividad y eficiencia; porque ampara de la desigualdad, de la concentración de poder y de riqueza.
3.El nudo político y las interconexiones complejas. The policy knot or the complex interconnections.
La relevancia pública del algoritmo inicia la reflexión sobre el algoritmo como fuente de hechos originados con la voluntad de condicionar los comportamientos, totales o parciales, de la persona. Dejado a su libre albedrio, la tecnología algorítmica impone un estado distinto, que no superior, sobre la vida cotidiana del individuo, que modulan otra forma de existencia, en algunos casos mejor, pero, en otros, definidamente peor. La fuente de hecho algorítmica opera mediante reglas dirigidas a producir resultados que usufructúan de la ausencia de regulación, de disciplina política, legal, fiscal.
El algoritmo no es solo diseño y práctica; debe integrar la política. En sentido amplio la política se exhibe como “set of explicit or implicit principles, norms, rules and decision-making procedures around which actors expectations converge.”
Policy knots es la metodología apta para el examen del algoritmo en sus relaciones internas entre diseño, práctica y política. O sea, hay interrelaciones complejas que deben reconocer no solo el diseño y la práctica del algoritmo, sino su impacto y los impactos que derivan de las estructuras y procesos en el terreno de la política. La regulación y la disciplina debe actuar en el contexto como elemento añadido de la tecnología propia de la definición del algoritmo. No es un elemento ajeno, sino que es, y debería ser conciente, que es la tercera de las piezas maestras de su configuración.
El concepto del nudo político asume importancia porque la gobernanza de la nueva tecnología depende de su comprensión, su intervención drástica o de favor.:” the multiple gatherings and entanglements through which worlds of design, practice and policy are brought into messy but binding alignment”
El concepto de política es amplio, incluyendo, la regulación legal de la tecnología, diseño y uso y las reglas y procedimientos establecidos por las empresas privadas –licencias de software, licencias para el usuario final, acuerdos, políticas de desarrollo de las aplicaciones y la filosofía empresarial. Y la utilidad es evidente porque integra en la pura actividad tecnológica las expectativas legales y políticas y, en cierta forma, las líneas impuestas a su gobernanza.
“More than seeking to balance design processes with social concern, policy knots are actively tied into and proactively help to shape design processes.”
La intersección del diseño, práctica, política, declara que son ámbitos autónomos, pero inseparables y cuya expresión es manifiesta en la emergencia de la innovación tecnológica, acuciada por azarosos e imprevistos desarrollos, ofreciendo, desde dentro de la propia evolución tecnológica la certeza de su actividad, sin mengua de la flexibilidad y responsabilidad social endógena.
“Creating policy knots by aligning legal treatment with frameworks for responsable design, locating moments where legal expertise would serve the process and identifying holes where important societal concerns are overlooked will help the law account for the flexibility necessarily involved man-machines systems and adaptive to new innovations.”
El algoritmo incorpora la política en su interior e internaliza las preocupaciones sociales que su libre albedrio actual suscita. Los resultados, si ello se consigue, estarán advertidos de los riesgos y amenazas que origina su desapego a las circunstancias externas. Y, en primer lugar, la ley, tanto pública como privada y, comprensiva, asimismo, de la imposición. Las fuentes de conducta de hecho quedan encauzadas, desde el interior, por la norma jurídica, y los resultados del diseño y la práctica no pueden ignorar el marco político, que, es el otro polo obligado a tener en cuenta.
4.El entramado institucional de los códigos informáticos. Assemblage of institutionally situated computational code.
El algoritmo en sí mismo lleva una carga de pesada crítica. Es difícil adjudicar legitimidad a una autoridad que gira en sus propios y exclusivos términos. No sería el caso, si su influencia se limitara al modelo matemático singular, específico, claramente determinado. el problema surge desde el momento en que el algoritmo en sí mismo, asociado con otros conjuga una estrategia de poder normativo de hecho sobre la conducta del particular, sea consumidor o ciudadano, ajeno a decisiones que ignora o no conoce en toda su significación.
El poder a través del algoritmo es difícilmente visible, porque su flexibilidad es cambiante y tornadiza y convoca factores diversos y relaciones múltiples, basado en el diseño y programa.
“Algorithms “govern” because they have the power to structure possibilities”
La idea de assemblage ofrece una visión que no es singular, sino sistémica. En efecto, el algoritmo no vale en su individualidad o singularidad, puesto que requiere de otros que subyacen y otros que sobrevendrán a partir de su naturaleza inicial. No hay algoritmo que viva solo; sino que necesita compañía y su proyección se hace ciertamente más compleja, porque su destino no está en sí mismo, sino en el desarrollo y construcción del algoritmo como sistema no lineal donde las partes nunca equivalen al todo.
La adscripción del algoritmo en sí mismo a sus relaciones con otros elementos ajenos, algo así como la idea del nudo político, contribuye a una extensión del examen de su actuación, siempre vinculado a su programa de instrucciones, pero no solo; sino tomando en cuenta a los usuarios, las prácticas, la regulación, y, todo ello, con una finalidad significativa, convertir aquello que serían cuestiones de hecho en cuestiones de preocupación sobre sus efectos.
La respuesta a una tecnología en formación, emergente, pasa por la identificación del entramado con las relaciones trabadas con los terceros, con las instituciones, con la ley, porque, aún hoy, el poder del algoritmo, las formas, los significados, no están consolidados en un marco de responsabilidad, salvo en el reino del compulsive programmer.
5.La institución. The institution.
La consideración del algoritmo como institución supone examinar su fórmula no solo por los resultados que se derivan, sino, también, en el modo en que se configuran sus datos de entrada necesarios para su construcción y las decisiones subyacentes y prioridades que la impulsan. El proceso del algoritmo como institución alude a los procesos que intervienen en la práctica, normas, estructuras, conocimientos ambientales que apoyan su difusión, aceptación y adopción.
No solo interesa el resultado que se obtiene, sino, asimismo, los efectos que puede producir sobre otras instituciones, categorías sociales u organizaciones; la influencia del algoritmo como decisor en distintos aspectos de la vida social, cultural, política.
“…it seems reasonable to think of algorithms as “the definers” that “do the defining” in many contexts, thereby playing an increasingly influential role in the social construction of knowledge. Understanding the social organisation underlying these definers means understanding the social processes underlying the construction of the algorithms (i.e. technological system) that play an increasingly influential role in the social construction of knowledge.”
La contribución institucional contribuye a la profundización de uno de los aspectos capitales del algoritmo, relativo a su constitución, desarrollo, de los inputs, con carácter previo a los outputs, a los resultados. Es una perspectiva de interior, desde dentro de la organización sobre su despliegue. El interrogante no se sitúa al final, sino al inicio del programa, con la pretensión de desvelar los criterios, las reglas, los medios que se utilizan para su configuración y como se legitimiza su autoridad en el seno de la organización de la empresa.
Las respuestas sirven para calibrar si los efectos que se desprenden de su aplicación son consonantes o disonantes con los motivos que empujaron su adopción. El interrogante es vital porque permite establecer el diseño de gobierno, la responsabilidad del diseño, su fiabilidad en la modulación de los componentes sociales y de los comportamientos de los individuos.
6.El poder social del algoritmo. The Social Power of Algorithms.
No puede afrontarse el algoritmo como si fuese una ínsula técnica cerrada y autosuficiente: Si algo se sabe ahora es que no hay diseño y práctica algorítmica que no responda a la sociedad (social world) y sus fines persiguen resultados utilitarios, económicos, de manipulación de comportamientos, de defensa, de vigilancia y seguridad.
” Algorithms should not be understood as an object that exists outside of those social processes. Their existence and design are a product of social forces, as are their implementations redesigns.”
Pero, no solo. El diseño del algoritmo establece y es fuente de reglas y de decisiones sobre las personas su comportamiento cotidiano, fuera de su capacidad de saber, ver, entender. El poder se trasunta en la selección, ordenación y predicción de aquello que puede interesar a ciertas categorías y no otras; de excluir a algunos e incluir a los demás; de discriminar entre sectores sociales
Sería inocente abstraer la noción de algoritmo de un discurso de poder ideológico más amplio, cuyo contenido pretende persuadir de la superioridad del algoritmo en base a sus aspiradas virtudes de racionalidad, objetividad, neutralidad, eficiencia, que lo convierten en inevitable e inmodificable. “.In this stream of work, the interest might not be in understanding the social powers of the technical systems, but in understanding how the notion of the algorithm itself has a kind of social power.” (D. Beer)
Precisamente, la noción de algoritmo es portadora de poder social, de autoridad, en la medida que identifica la mejor y única de las opciones sostenibles de innovación tecnológica. Y es un poder, público y privado, dirigido a influir en el conocimiento humano mediante el control de la información y comunicación con pretensión religiosa de verdad.
“Algorithms should not be understood as an object that exists outside of those social processes. Their existence and design are a product of social forces, as are their implementations redesigns.”
Esa clase de poder social obliga a calificar el algoritmo como algo más y distinto que una mera construcción matemática. Es obvio, que su relevancia pública institucional sugiere la necesaria articulación interna del political knot.
Hay instrucciones que fundan normas de actuación y cuyo final es la toma de decisiones. De modo que, la disciplina autorreferencial no es neutral en su proyección al mundo social, porque destaca, sobre todo, un carácter opaco que oculta su observación objetiva desde el externo.
No se trata de construcciones destinadas solo y exclusivamente a lo que Tufekci dice como “respuestas correctas”, elementales e indiscutibles en sus resultados; sino, decisiones que priorizan, clasifican, asocian y filtran, suprimen o determinan el flujo de la información, bajo circunstancias que no son transparentes, fiables, responsables.
“Complex, opaque and proprietary algorithms are increasingly being deployed in many areas of life often to make decisions that are subjective in nature, and hence with no anchors or correct answers to check with…And as more and more corporations deploy them in many processes from healthcare to hiring, their relevance and legal, politics and policy importance will also rise.”
El énfasis de la incorrección se centra antes en la subjetividad de la decisión, que en la inconsistencia del diseño; antes en el output, que en el input. Pero, destacando, la oscuridad de la decisión propietaria, cuya finalidad queda fuera de la ordinaria comprensión humana y se desliza al ámbito del poder social del algoritmo.
7.El guardián algorítmico. La autoridad algorítmica. The algorithmic guardian. Algorithmic authority.
La potestad de cambio, de control, de seguimiento, en suma, de vigilancia convierte al algoritmo en el guardián del conocimiento, de la información. Y esto delata la superlativa importancia de su actuación externa debido a la falta de visibilidad, asimetría de información e influencia oculta.
La función guardiana del algoritmo se condensa en la manipulación como calificativo definitivo de su finalidad, al servicio de intereses propios y su ámbito no se reduce solo al mercado, sino que también comprende la esfera pública.
“the knowledge of objective dangers and of values endangered, as well as of the technical remedies, is beginning to be there and to be disseminated; but to make it prevail in the markeplace is a matter less of the rational dissemination of truth than of public relations, techniques, persuasion, indoctrination and manipulation, also of unholy alliances, perhaps even conspiracy.”
La diseminación de manipulación de información y conocimiento, como si fuera verdad, a través del algoritmo para preservar, conquistar, ampliar esferas escondidas de influencia, con variados objetivos, sean estrictamente económicos, políticos, de seguridad y defensa, pero, que, al fin, se resuelve en la capacidad de alterar modos de comportamiento de la persona y el orden social mediante relaciones públicas y técnicas de persuasión sobre todas las categorías, segmentos, partes de la sociedad y del individuo.“The spread of algorithmic gatekeeping is the result of increasing digitization of everyday life, ranging from the personal to the political…” (Z.Tufekci)
Big Data es el combustible que alimenta el éxito del algoritmo. “Collection and processing of data produces ever more data, which in turn, is used by algorithms to improve themselves. Based on Kant’s famous statement, algorithms without data are empty; data without algorithms are blind.”
Big Data, la digitalización, es la fundación material de la inteligencia artificial. Es la primera materia del algoritmo, como el algodón, el trigo en el siglo pasado.
El proceso de datos es la esencia digital y virtual: sin los datos no hay algoritmo y sin algoritmo es difícil defender la presencia de inteligencia artificial, bienes digitales o virtuales. El valor de los datos reside en su infinita reutilización:” the data’s value is calculated on the basis of all the possible ways in which it could be used in the future and not merely on the basis of its present use”
La recombinación de datos, su acumulación y extensión son el valor real y por tanto el impulso para su acumulación por las organizaciones como Facebook, Twitter, Amazon, Visa, MasterCard, Bloomberg y similares. El dato inicial es susceptible de eternidad, reiteración y continua repetición, igual o modificado.
El algoritmo construye una identidad a través de algún tipo de clasificación que es el resultado de programas creados por personas, que van más allá de la racionalidad estrictamente técnica y devienen manipulación, desinformación o control, sin transparencia alguna.
El algoritmo ofrece generalización y predicción desde la recogida, almacenamiento y análisis de los datos, creando correlaciones, casi sin evidencia, con apariencia de causalidad. Data mining es el proceso que sirve para definir la inteligencia artificial como comportamiento racional. Sin embargo, la identificación de los algoritmos predictivos con la acción racional no está descontada ni es la mejor de las soluciones adoptadas válida con carácter universal.
La causa del particularismo algorítmico reposa en sus objetivos, con clara intención de beneficio o control y vigilancia. Estos fines contaminan los flujos de información porque los intereses implicados no son simétricos ni equilibrados. Hay asimetría de información y los principios y derechos generales de la persona quedan subordinados a discriminación, parcialidad, restricciones de la libertad de elección o, asimismo, a la pérdida o deterioro de su derecho a la intimidad.
La causa detrás de la decisión algorítmica es esencialmente opaca, secreta y poco conocen su génesis y aplicación. Esto muestra como el portero se convierte en guardián.
El algoritmo abre la puerta a la “algorithmic authority”, ejercitando su poder social de influencia directa sobre el comportamiento de los individuos, sin otra restricción que su propio programa, diseño y práctica.
Las diversas interpretaciones formuladas –public relevance, policy knot, assemblage, institution- subrayan la idea de un concepto como el algoritmo que desde su perspectiva libremente endógena aparece incontrolado y sirven, en común, para aspirar a la introducción de vehículos que, desde fuera, en forma exógena, orienten la convivencia de su aplicación con valores públicos, sociales, generales. Son esfuerzos valiosos porque explican, en palabras simples, la necesidad de la regulación abierta del algoritmo. No obstante, hay un elemento ausente cual es la manera que el algoritmo configura su poder e influencia social y es la naturaleza de facto de la autoridad algorítmica.
El algoritmo, tal como se concibe actualmente, es una fuente de derecho de facto. En efecto, la creación, desarrollo y aplicación del algoritmo expresa su autonomía como una fuente de facto derechos y obligaciones, una fuente que decide por sí misma la inclusión o exclusión de sus consecuencias, la retribución o pena sobre las personas tal como las programan otras personas.
La factualidad del algoritmo no puede dejar de señalarse, porque, si algo se vislumbra de la inteligencia artificial es su perseverante inclinación al comando, al ordeno y mando, inmaterial sobre la realidad de las personas, expurgando cualquier garantía, aun formalmente letal, que las tutele.
El algoritmo ejerce su autoridad ex facto ius oritur. Se trata de un factum adoptado y constituido como normativo, como verdadera norma jurídica, o sea, una fuente derecho privatizada, porque los sofisticados algoritmos, las complejas machine learning y las operaciones de Data mining están manos de pocas compañías privadas.
La autoridad algorítmica captura con precisión la naturaleza privada de facto del algoritmo y cuya aptitud –poder- social es ilimitado, fuera de cualquier disciplina pública tendente a explicar su origen, su alcance, los efectos portadores sobre las personas de su objeto y que despliega riesgos, daños y perjuicios, sin que se sepan o puedan preverse, un sistema autónomo que “only dreams in total darkness” o “All of this de facto law is operating in the dark”. “regulation of online content is a form of law.” Facebook and other platforms all have documents governing use of their services, often called community guidelines, or standards. These are analogous to constitutions in that they offer general rules that are comparatively vague. The rules take on clearer meaning when they are applied, by company staff (or algorithms) deciding which content to censor. These decisions are analogous to case law. But unlike decisions by courts, platform decisions are generally secret.”
La autoridad algorítmica funda la sociedad de vigilancia. ¿Qué significa vigilancia? Es una actividad cuyo propósito es la observación con el fin de control, legitimidad o cualquier otro objetivo; de rutina, diaria y repetida; sistemática, planificada y continua, no casual; centrada en los detalles y en la identificación de las personas. De la sociedad de vigilancia emergen los conceptos de economía de vigilancia (J. Cohen) o capitalismo de vigilancia (S. Zuboff). La inteligencia artificial es la sinécdoque de vigilancia.