 muy buenos días para todos se dan bienvenidos al salón gobelinos de la casa de narinio donde el gobierno nacional en cabeza del señor presidente de la república Iván Duque Marquez hará el lanzamiento del marco ético de inteligencia artificial y las mesas técnicas de discusión saludamos a toda la audiencia que hasta ahora se conecta via streaming a través de la página web de la presidencia de la república y las redes sociales de la mediante esa estrategia se identificarán explorarán abordarán los beneficios y desafíos de las tecnologías emergentes en aras de construir conjuntamente un mundo mejor y más inclusivo iniciamos este evento con el saludo de bienvenida del consejero presidencial para asuntos económicos y transformación digital victor muñoz muy buenos días a todos los que nos acompañan hoy a través de las plataformas virtuales un respetuoso saludo al señor presidente de la república Iván Duque Marquez al profesor urs gáser director ejecutivo del centro de investigación berman clayn centro de la universidad de harvard a kei phil butterfield head de inteligencia artificial y machine learning del foro económico mundial al doctor carlos santizón director de innovación digital del estado en el banco de desarrollo económico de américa latina el día de hoy para nosotros es muy importante desde el inicio del gobierno se ha venido trabajando en todo lo que ha sido la estrategia de transformación digital hemos recibido la instrucción del presidente de la república que nosotros como estado nos transformemos para hacer cables más incluyentes para que trabajemos cables por más equidad para que utilicemos la tecnología como beneficio para la gente que utilicemos la tecnología en sí mismo como un habilitador para que nos permita nosotros cables mejorar la calidad de vida de los ciudadanos es por esto que los avances que hemos venido teniendo en la construcción de la política pública de transformación digital de big data de inteligencia artificial de cybersecurity hacen parte de todo un marco de construcción que hemos venido realizando como país para poder avanzar en los retos que nos presenta nosotros el nuevo mundo asociado la digitalización a la cuarta revolución industrial y a estos retos que permanentemente se están construyendo no puedo dejar de mencionar la importancia que representa para el país avanzar en la discusión del marco ético de inteligencia artificial y es así como desde el mes de agosto se puso a consideración de la ciudadanía de los centros de investigación del sector privado de la sociedad civil el primer documento borrador de marco ético de inteligencia artificial y en eso quiero dar un agradecimiento especial a Maria Isabel de la CAF y Armando Guido de la CAF quien han sido personas indispensables y fundamentales para poder sacar adelante este primer documento y quienes son realmente hoy cabezas articuladoras de la discusión que nosotros estamos teniendo como país cuando nosotros hablamos de la discusión del marco ético de inteligencia artificial no puedo dejar de mencionar que estamos hablando de una discusión asociada a tecnología con responsabilidad con sentido social con equidad y es así como tenemos sobre la mesa los 10 principios sobre los que están siendo construidos en este marco estamos hablando de los principios de transparencia de privacidad de control humano en las decisiones en temas de seguridad en temas de responsabilidad de no discriminación de inclusión y muy importante de prevalencia del derecho a los niños y las niñas y adolescentes y ante todo de beneficio social esos son los 10 principios que marcan este marco ético de inteligencia artificial en el que hemos venido construyendo de la mano de todos ustedes los que nos acompañan hoy de la mano de la sociedad de la mano del sector privado pero además más allá de los 10 principios también las herramientas que nos permiten a nosotros aterrizar la implementación de estos 10 principios y quiero en esto mencionar temas que muchas veces parecen muy técnicos pero que son fundamentales en esta conversación y es la evaluación de los algoritmos el tema de la valoración de los riesgos en sí mismo en la construcción de los algoritmos los sesgos en la data que se presentan en la construcción la definición y la gestión de los riesgos la privacidad diferencial los códigos internos y de conducta ética la aproximación ética a los datos la portabilidad de los datos todo esto es fundamental nosotros no podemos olvidar que la inteligencia artificial es un mercado creciente que cerca de 110 mil millones de dólares es el tamaño oportunidad de mercado que se tiene estimado para el año 2024 que esto hace parte de la reactivación económica en el mundo que hace parte del desarrollo económico de los países pero es fundamental el abordaje ético y responsable de los mismos ya desde mitad de siglo XX Alan Turin hablaba sobre la importancia de tener estas discusiones éticas cuando se estimaba que las máquinas podían llegar a tener algún nivel de inteligencia hace pocos semanas también sus santidad el papa mencionaba la importancia de las discusiones de los marcos éticos en inteligencia artificial para evitar una anarquía en el uso de la tecnología una destrucción de capital social en el uso de la tecnología pero ante todo que los más poderosos no abusen de ella para imponer sus condiciones en el mundo es por esto que el uso ético de la inteligencia artificial la adopción de principios la adopción de herramientas son fundamentales para que podamos avanzar el día de hoy estamos lanzando seis mesas técnicas que son las mesas que nos van a permitir a nosotros tener conclusiones y herramientas precisas para la abordaje adopción no sólo en Colombia sino en América Latina y en el mundo de la inteligencia artificial y es así como tendremos las mesas lideradas con la CAF con la con los equipos multilaterales la mesa liderada por el Bergman Klein Center asociado a las entidades académicas internacionales el banco interamericano de desarrollo si ha sumado también en la importancia de discusión con los gobiernos de otros países tenemos la discusión al interior del país con las universidades sobre la opción misma del marco todo lo que tiene que ver con la retroalimentación del sector privado de las entidades gubernamentales y ante todo hemos creado también la plataforma de adopción y discusión del marco ético inteligencia artificial para que los ciudadanos puedan participar de manera activa como lo han hecho en el resto de procesos en el país así que muchísimas gracias para mí es un honor estar hoy en este panel haciendo esta instalación iniciando este proceso de las mesas técnicas y continuar la discusión para que Colombia sea un abanderado en la región que seamos ese Silicon Valley de América Latina donde lieremos las discusiones de las tecnologías de punta la opción de las mismas y el uso responsable para tener un país con mayor equidad muchísimas gracias le agradecemos al consejero víctor muñoz ahora escucharemos las palabras de cave earth battlefield directora de machine learning e inteligencia artificial del foro económico mundial quien nos acompaña desde california Good morning Mr. President, ladies and gentlemen, it's an honor and a privilege to speak to you today about the need for international core collaboration to implement the ethics of AI something very close to my heart and that I've been working on for many years now so why is international collaboration on AI so important well at the very extreme it stops wars we know that AI might be used in the battlefield but it's certainly already being used in cyber but also it enables the sharing of AI ideas and training for use and solving of global problems it enables the creation of international good governance protocols which are so important in this area and it enables increased good for the planet and humanity by using AI in for example the battle against climate change and so good ethical use of AI is at the very core of success of these and so I think international collaboration on implementation of AI ethical principles is important for a number of reasons. First, because there are now over 190 different sets of AI ethical principles around the world, although looking at all of those 190 different sets, we like you see about 10 that are common to the world and we just heard either 10 that you have picked out and they coincide very much with what we see around the world so for example the what I would call the explainability group that explainability transparency and accountability the safety and robustness and security of AI group the beneficial of AI group including diversity and inclusion and of course that human agency group how we as humans interact with AI and the robots which have AI in them and how we design in a human centred fashion artificial intelligence. Secondly, AI can only bring us the benefits that we can see if we build good governance foundations for it. This requires collaboration so we built the same or compatible perhaps we could call it interoperable foundations for the technology and this is absolutely vital. Thirdly, so that AI can benefit the world equally rather than exacerbating those digital and economic divides that we already see both within countries and between countries so in the geopolitical sphere and bringing the inclusivity that we've already spoken about and last but by no means least only by collaborating can we resolve the problems of AI which are actually changing as the technology develops so in 2012 when I started working in this area we were only beginning to recognize some of the problems that we now take for granted as something we need to solve to have responsible artificial intelligence but some national thought is very necessary to as it forms the basis of international collaboration and so we have been at the World Economic Forum advising countries to start with national AI strategies and of course that's what you have done already why is it necessary well it's necessary for a country to have a good vision as we have just heard of how you want to use AI and if you have that good vision for yourself as a country it's much easier to work collaboratively with the rest of the world then of course you need to move on to operationalizing those national AI strategies and of course that's what you're starting now and have been doing I think since August and it's a privilege to be included in this work and of course we have also at the forum being doing this sort of thing with India over the last six months so again that international collaboration coming in and I think it also allows you to think first about the cultural and internal diversity and inclusion equity and equality and how you build that much needed local AI ecosystem and the training of your AI technologists for the future and as you create your own direction with AI and create that Colombian ecosystem through collaboration you're then able to learn from others perhaps ahead in their AI journey being ahead in AI is not necessarily the best place to be in fact I would say that you're in the perfect position to learn from the mistakes that we have seen others make as an example we've seen that it's important to take the general public with you on your AI journey and you are already doing that because for example the lack of track and trace where the general public have feared AI is something you can see commonly across America and Europe where we actually find that over 70% of people say that they are fearful of the technology so already you're having your your conversation with the general public having learned from from others so what does international collaboration look like I believe that it needs to be multi stakeholders so government academia non-profit and also business at the world economic forum we for example bring government fellows into work with us and we have welcomed fellows from New Zealand Singapore the United Kingdom and France and of course we have set up the affiliate network which Colombia was the first member but now includes Brazil, South Africa, Rwanda, Israel, Turkey, Saudi Arabia, the UAE and Norway and is ever growing and so that allows us to bring together collaboration of good ideas in this implementation of AI ethics and I will talk more about something that the AI team which I lead is doing in a moment the global AI action alliance but I'd like to pause just briefly to say thank you so much to President Duque for agreeing to serve on the steering committee of the global AI action alliance a true step in international collaboration in this area of course the forum is not the only organization working in this area we see principles from the OECD and UNESCO also work from GPAY, G7, G20 and the AIADB and we're privileged to work with the latter on the Fairlac initiative so I said I would come back to the global AI action alliance we think that this is really important because international collaboration in this area is really important and there are so many people doing something in this area and so the idea of the alliance is to be funded partly by the World Economic Forum and partly by independent philanthropic foundations to become a tent into which we encourage all the best ideas in this space of implementing AI ethics so that we are not reinventing the wheel there is enough to be done for us all to be doing something but instead we are amplifying the voices that are doing great work in this space of implementing AI ethics so we already as I said have heads of state including President Duque on the steering committee but also the heads of the OECD UNICEF and UNESCO and are gradually building out this alliance of people working in this space so we can have true international collaboration so just moving on to some examples of international collaboration in implementing AI ethics. First of all we worked with the United Kingdom on implementing guidelines, high principle guidelines, use cases and a workbook for procurement officials to use when they are buying ethical AI. We also piloted that with the UAE, Bahrain and the World Bank. We are about to pilot with the Department of Defense in the UK and Australia and of course through our affiliates Colombia and the United Kingdom adopted that work in on the 1st of January of this year and say that's true international collaboration solving a specific issue of implementing AI ethics and then with New Zealand we are thinking about how do you set up centers of excellence that cross the world? Collaboration, how do we co-design public conversations and share findings on regulatory alternatives to AI because we know regulation doesn't necessarily work for AI and so in conclusion there is a lot to be done international collaboration is truly at the heart of implementing AI ethics Again I'm truly grateful for the privilege of being with you today and thank you. Directora continuamos ahora con la intervención del director del Banco de Desarrollo de América Latina, Carlos Santiso. Buenos días a todos aquí, es un placer desde CAF, el Banco de Desarrollo de América Latina estar con ustedes este día y también poder acompañar al gobierno de Colombia en esta aventura que ya llevamos bastantes meses. Quisiera empezar por un agradecimiento muy especial al presidente Duque por la invitación pero hacen un reconocimiento muy especial del liderazgo personal que él tuvo en la aceleración de la transformación digital de Colombia y en particular en esta agenda de inteligencia artificial asegurándose que está enmarcado en un marco ético que genere confianza. También quisiera agradecer y reconocer el liderazgo de Víctor Muñoz y del equipo de la presidencia que están impulsando esta agenda y que tenemos el privilegio de poder apoyar. También a la ministra Karen Uaputiene, al vice ministro Germán Rueda y también a todo el equipo como Armando Guio, María Isabel Mejía y otros que estamos trabajando ahí de la mano con socios en esta agenda. Creo que como Keia lo menciona muy correctamente, creo que 20-20 será una década digital y la pandemia está acelerando una serie de procesos en término de transformación de nuestras vidas, de nuestras sociedades, de nuestras economías, pero también está transformando la relación entre el gobierno y la gente y quisiera un poco enfocarme en esta redefinición de las relaciones entre la gente y el gobierno en donde el debate sobre inteligencia artificial se marca y en el corazón de esta aceleración y de esta edad están los datos, los datos personales, los datos públicos, los cuales nutren las aplicaciones de inteligencia artificial, porque al final la gente debe poder confiar en la tecnología y que estas aplicaciones generen confianza porque estamos en una incrucijada, estamos en una incrucijada en la cual la transformación digital o incrementará la confianza de los ciudadanos con sus gobiernos en la manera que estos gobiernos proveen mejores servicios digitales o al contrario podrás disminuir una confianza que ya ha sido desafiante mantener en la manera que los gobiernos manejan los datos de los ciudadanos y en ese sentido contar con un margo ético para la inteligencia artificial que el gobierno de Colombia está desarrollando ese ejemplar. Desde CAF es un placer poder apoyar este proceso y nosotros creamos una dirección de innovación digital del Estado hace dos años precisamente para poder acompañar y apoyar los Estados miembros del banco en esta gran transformación. En este contexto hemos lanzado una iniciativa regional sobre el uso ético y responsable de los datos y de la inteligencia artificial en el sector público y precisamente para re-pensar si quieren la relación entre los gobiernos y los ciudadanos en la manera que se manejan sus datos y en esto hemos forjado una alianza estratégica con el Centro para la Cuarta Revolución Industrial pasado en Medellín y afiliado al foro económico mundial como que acaba de mencionar. En esta iniciativa lo que buscamos son dos cosas, una es generar conocimiento sobre el uso, el impacto y los resultados que la inteligencia artificial puede tener en el sector público, demostrar el valor que agrega esto para mejorar las vías de la gente. Segundo es brindar asistencia técnica y apoyo como lo estamos haciendo con el gobierno de Colombia y otro de la región. Reconsegundo punto que es importante notar es que la estrategia de inteligencia artificial del gobierno de Colombia se marca en un marco más amplio de transformación digital definido en la política de transformación digital e inteligencia artificial. Creo que es importante que este debate sobre inteligencia artificial se planteen en el marco más amplio de la estrategia de transformación digital y en particular el gobierno de los datos y lo vemos en otros países como España que acaba de aprobar en julio la agenda de España Digital 2025. El otro punto que es muy importante le enseñará en caso de Colombia cuando se le compara a los otros países de la región y del mundo es que con el impulso desde el Ministerio TIC Colombia vino realizando importantes avances y su liderazgo en materia de gobierno digital de gobernanza de datos o de datos abierto ha sido muy importante y a la vez posibilita y habilita aplicaciones éticas de inteligencia artificial. La OCD acaba de reconocer estos avances ranqueando a Colombia número tres en materia de gobierno digital entre los países de la OCD y el año que viene Colombia será la amplitud de la red de gobierno digital del BID y de la OEA. También Colombia ha sido reconocido como un rising star en términos de madurez de su ecosistema de inteligencia artificial en el índice de la IRC el Oxford Insight que acaban de publicarse hace un par de meses. Coloca Colombia en el puesto 51 de 172 países en el mundo y tercero de la región de América Latina y el Caribe. Entonces en este contexto desde cada uno se comprase poder apoyar al gobierno de Colombia en estos esfuerzos porque y que tiene varias vertientes. Nuestro apoyo incluye el apoyo al marco ético de inteligencia artificial que es muy importante como acaba también de mencionar que y será el primer país de América Latina que contaron con marco ético específicamente para el despliegue de inteligencia artificial. El segundo es pensar modelos de sandbox y playas regulatorias para poder testear estas aplicaciones. El tercero es la apoyar el modelo de gobernanza y de gobierno de la inteligencia artificial en particular desde el centro de gobierno desde la presidencia desde el desde las entidades del gobierno nacional y también en el diseño de una suerte de Task Force o Delivery Unit para enfocarse en la implementación de estas políticas y de estos principios de manera muy accionable. La inteligencia artificial como todos sabemos tiene un tremendo potencial en el sector público para mejorar la calidad de las políticas públicas en términos de su diseño y su evaluación, mejorar la prohibición de los servicios públicos que demandan los ciudadanos y para ajustar las mejoras las expectativas de la gente en término de calidad y de oportunidad, también mejorar la gestión operativa de las entidades del sector público para mejorar la calidad del gasto público y por fin una aplicación muy importante que también desde Colombia se viene llevando a cabo es en materia de lucha contra la corrupción y mecanismo de analítica de datos para prevenir la corrupción. Pero para que estos beneficios se realicen es importante contar y cumplir con varios requisitos en términos del manejo y la mitigación de los riegos en términos de sesgos de los datos o de exclusión digital de la gente que no está en generando datos si quieren pero también asegurar la seguridad y la privacidad en la gestión de los datos personales algo muy importante también mejorar la calidad y la integridad de los datos administrativos que se usan en estas aplicativos y también profundizar la apertura de los datos públicos porque al final el marco ético es clave para generar confianza y realmente es un principio muy importante y por eso muchas veces en muchos países también estos marcos éticos también se vinculan a a a a a políticas digamos de de políticas de datos políticas de protección de datos y cartas de derechos digitales. España por ejemplo está impulsando una carta una carta de derechos digitales para los ciudadanos que incluye derechos antes de la inteligencia artificial y lo interesante también de España para Colombia es que este esfuerzo también viene impulsado del Ministerio de Asuntos Económicos y Transformación Digital que indica claramente también el potencial de la inteligencia artificial para la reactivación económica y el vínculo entre transformación digital y activa reactivación económica. Un punto que quisiera enfatizar bastante y aquí y que en el cual trabajamos con el gobierno de Colombia es el foco en la implementación más allá de los principios creo que hay que darle mucha importancia en cómo esto se va a implementar y cómo en las herramientas concretas que incluye el marco ético y la propuesta que está ahora en consulta pública podrá llevarlo a cabo. La propuesta es muy acertada al enfatizar por ejemplo que hay diferentes éticas no en la inteligencia artificial hay la ética de los datos que se nutren la inteligencia artificial hay la ética de los algoritmos y también hay la ética de los principios y varios países también están poniendo mecanismos de ejecución para este tipo de políticas y asegurar este aplicación de estos marcos éticos en estas diferentes modalidades. En Inglaterra por ejemplo crear una oficina de inteligencia artificial en el centro de gobierno del cabinet office para ser realmente el rector de la gobernanza de la inteligencia artificial. Otros países como Serbia tienen un delivery unit para su agenda digital en términos en la oficina del primer ministro. Todas desde CAF como Banco de Desarrollo de América Latina es un placer poder apoyarlos en este proceso y iniciar como Vitor acaba de mencionar al inicio una serie de mesas redondas con otros socios como el bit como el centro de Harvard y estaremos iniciando una serie de consultas específicas con diferentes tipos de actores. Nosotros llevaríamos las consultas con los órganos internacionales y multilaterales por ejemplo con el Banco Asiático de Desarrollo con el Foro Económico Mundial con la UNESCO con el Banco Interamericano de Desarrollo con el Consejo de Europa con la Comisión Europea para poder brindar a Colombia una experiencia y unas lecciones de otras regiones que pueden nutrir este marco sus principios y cómo aplicarlo en la realidad. Y quisiera también aprovechar esta oportunidad para hacer un llamado a los que nos escuchan también a contribuir a este proceso que debe ser un proceso abierto, consultivo y que desde CAF nos nos es un gran placer poder apoyarles. Entonces señor presidente de nuevo reiterar el apoyo incondicional del Banco de Desarrollo de América Latina en esta agenda y en los próximos pasos que estamos iniciando ahora con este taller. Muchísimas gracias. Muchísimas gracias a usted señor Santiso. Ahora continuamos con la intervención del director ejecutivo del Centro Berkman Klein de la Universidad de Harvard, Urs Gasser, quien también nos acompaña de manera virtual. Thank you very much, dear Mr President, dear colleagues and Colombian friends. It's an honor to speak to you today. First, let me congratulate you on the AI ethics framework, which is an important milestone in the implementation of the national policy for digital transformation and AI. It's been a real pleasure working with your team, Mr President, on some of these issues that we are talking about today. And I've been impressed by your leadership and your offices expertise and wisdom. So thank you very much for this collaboration that you've supported. Please let me use the next few minutes to reflect on the role that governments, the government can and I would argue should play as we work together in this multistakeholder fashion towards trust worthy AI. I can build upon the excellent contributions by my colleagues and previous speakers, when highlighting the crucial role trust and trust building plays in this particular moment in time. If we take two steps back, I would argue that AI as a relatively new set of technologies, at least in terms of the application areas, pose a number of trust problems or trust challenges. I would like to highlight only two such challenges and share them with you. And the first challenge is one that we are actually familiar with as a society when a new technology becomes more widely available. When we introduce a new technology, there is often a risky gap between what we know and what we don't know about the technology and its interaction with society, including the unknown unknowns. And in some interesting ways, trust is a social coping mechanism to bridge this gap of uncertainty to enable people to take a leap of faith, if you will. And indeed, as I reviewed again, Colombia's national policy, you've highlighted this lack of knowledge, this problem of information gap as a key barrier to the adaptation of digital technology. Now, when we look at this trust issue, then one key role of the government becomes immediately clear when it comes to trust building. Like at this event today, governments can serve the role of a convener of an educator to inform citizens. But of course, it's more than just sharing information about the promise of AI. Yesterday, we hosted with the president's office around table at the workshop to zoom in, quite literally, we were using Zoom, on children and young people to discuss the ways how we can use the power of education through skill building to empower the next generation to use these technologies in meaningful ways as they navigate their lives and build their futures. En addition to the role of an educator, there is a second role that has become visible already today in our conversation, and that is governments can promote trust by setting norms. And of course, the ethics framework that we're celebrating today sets the background norms upon which expectations can become stable across the many stakeholders in the ecosystem, and trust can crystallize around these expectations. But of course, the Colombian government also understands that ethical norms are not the full answer. Building upon ethics, legal norms are needed to enable trust. And here again, we can learn from history when we look at the role of law in promoting trust. Law can actually help to build a bridge across the knowledge gap I mentioned at the beginning. For example, by introducing transparency requirements as previous speakers highlighted, or by introducing monitoring obligations. It is in this context, as my colleague from the World Economic Forum mentioned, why the right to explanation, or the idea of explanation within AI systems is such an important trust enabler. There is another angle to law as a tool to build trust, which is perhaps less intuitive. One of the magic that law can bring to us is actually to enable trust by anticipating that sometimes trust is disappointed and already putting into place norms and rules that should apply once trust is disappointed. And think about sanctions or liability through that lens. And suddenly you may see laws function in building trust in different ways and not some sort of the dominant paradigm that law is bad for innovation. Suddenly you have a richer narrative. Now let me move quickly to AI's second trust problem, which is more specific to AI. I think unlike previous technologies, trust in AI doesn't only require that technology works. So in the past think about trains or airplanes, whatever technical system there are that were innovative at some point, they were groundbreaking. What was a key thing to build trust for people was that, you know, a train brings you from A to B quite safely, and so does an airplane. But what we see with AI is probably a novel trust challenge, and that has to do with what AI applications do. They are involved in decision making, unlike a train, probably closer to modern airplanes. And the question becomes, are AI's making sound decisions that are in our interests as users? In other words, we may move from a world of functional trust, like in the age of trains and locomotives, that's mostly a cognitive matter to a world where it's about fiduciary trust, where it's actually requiring trust, not only cognitively, but also emotionally when we talk about AI. And to me, this kind of trust in technology is much harder to achieve. It's actually harder to earn. And so the key question becomes, what, again, are the roles that governments can play? I would just like to highlight two. First, I would propose that governments can serve the function of a seismograph and an amplifier. In my view, going forward, it's important to capture the real world feedback from how AI's are used in their specific social context, what issues emerge from these interactions, and create a learning ecosystem within the government, within society, to learn from these often weak signals real time and upgrade and revise and adjust laws and policies dynamically. And that's a real challenge, as we all know, who are doing work in the policy space. How can we create learning by design and build that into our governance systems? Second role to help build this harder, address this harder trust challenge. Governments are themselves trust proxies. As users of AI technology, which governments often are, they can demonstrate how AI indeed can support sound, yes, better decision making. Now, unfortunately, this is a high bar. As we know from many negative headlines these days, some of the early stories when governments started to adopt and use AI have been the opposite of a success story. So I think that means we have to choose very wisely and ensure that we can demonstrate, that governments can demonstrate how AI serves this fiduciary role. Now, taken together a few things become clear. First, governments can and do play many different roles when it comes to AI. Governments are promoters of AI, regulators, educators, users, coordinators, researchers, and that's good news. And I see all these roles described also in the national strategy. It means that we have many different tools, a broad toolkit for AI governance available and the Colombian government is embracing it. But there are also challenges that may immediately affect the trust equilibrium. First, given that AI and AI applications are so contextual and given that so many different government agencies are involved in decision making, it's very hard to maintain coherence in decision making and in communication within the government. And we know, particularly now looking at COVID, that mixed signals from government agencies have a great potential to harm trust immediately. And I think that's a particular problem in such a complex policy area where AI transcends jurisdictions and plays a role in transportation, education, health, you name it. How can we create and maintain a certain coherence in both policymaking and communication? Second, complicación. Some of the roles I mentioned may be in tension with each other. There may be even the risk of a role conflict. For instance, sometimes the interests of the government as a user may be different from the interests of the government as a regulator. Now these conflicts or at least tensions are often not addressed in ethics frameworks or national policies, but will of course benefit from proactive dialogue. And I would argue and emphasize, it's not only what decisions will be made, but also how we arrive at these value judgments in case of some of these role trade offs or tensions that will be a key, will be key for trust outcomes. So in conclusion, and perhaps paradoxically, I think healthy dose of skepticism towards the promises of AI might be the most productive and sensible way to work together towards trust worthy AI. I'm personally and together with the Berk Compliance Center team looking forward to being part of this journey of trust building with all of you. Thank you very much. Muy buenos días a todos ustedes. Un saludo muy especial al profesor Gasser, que es el executive director del Berkman Klein Center for Internet and Society. Mi saludo también a Key for Butterfield, que es el head of artificial intelligence and machine learning of the world economic forum. Mi saludo al doctor Victor Muñoz, consejero presidencial para asuntos económicos y transformación digital. Me alegra también ver a mi buen amigo Carlos Santiso y fuera mi compañero en la banca multilateral. Mi saludo muy especial, Carlos. Yo quisiera decirles a ustedes que tengo una gran motivación de participar en este encuentro, por lo que significa el desarrollo de la tecnología, por lo que la tecnología representa en este mundo de la pandemia y porque estamos abocados a una aceleración de la historia donde la combinación de la tecnología y lo mejor de nuestra humanidad puede producir resultados inigualables. Y yo empiezo por destacar lo que ha sido la evolución del mundo en los últimos 23 años o básicamente lo que ha sido aún en un período más corto, en los últimos 13 años. Cuando nosotros pensamos en el año 2007 y es un año bastante particular, en el año 2007 ocurren cuatro transformaciones significativas en el mundo de la tecnología. Por un lado, Jeff Bezos lanza el Kindle y a partir del lanzamiento del Kindle se genera en el mundo la idea que podemos tener contenidos de inmensa capacidad en un espacio manual donde podemos consultar una multiplicidad de libros y no tenemos que llenarnos de material físico, revolucionando también la industria editorial. En el año 2007 también recordamos que Steve Jobs lanza el iPhone y a partir de ese momento la forma en la que vemos los teléfonos inteligentes cambia por completo y empieza un proceso ultradinámico donde las aplicaciones digitales empiezan a acercarse en el contacto con los ciudadanos, revolucionando la fotografía, la música, la forma en la que nosotros nos expresamos. En el año 2007 llevábamos un año desde el nacimiento de Facebook y en el año 2007 Jack Dorsey lanza Twitter y también empiezan a surgir plataformas como Change.org y en el año 2007 empezamos a ver los nuevos sistemas operacionales de Android y por supuesto se le lanza al mundo una nueva plataforma tecnológica que se conoce como la plataforma Watson, que es una expresión casi que embrionaria pero con una gran capacidad en lo que es el procesamiento de información de cara a la inteligencia artificial. Concepto que existe de tiempo atrás pero que yo diría a partir del año 2007 empieza a transformarse a unas velocidades inigualables. ¿Qué ha pasado del 2007 a hoy? Por un lado, lo que empezó con la revolución de las aplicaciones móviles, hoy está en un punto único de ebullición cada vez más especializado y ya inclusive en el mundo de la inteligencia artificial, como lo plantea la propia Amy Chua en el libro de The Big Nine, estamos viendo hoy la competencia por lo que se conocen como las mega aplicaciones. También estamos viendo como los conceptos de inteligencia artificial, machine learning y también internet de las cosas confluyen en una sola oferta en múltiples sectores. Tenemos aplicaciones móviles, machine learning, inteligencia artificial e internet de las cosas en el sector de la salud, en el sector de la educación, en el transporte, en la gestión pública, prácticamente en todos los sectores esos conceptos están confluyendo. Y además, la capacidad de asimilar información que en el mismo desarrollo de las plataformas móviles se traduce en tener captura de imágenes e información biométrica y también empezar a llevar parámetros de comportamiento humano a partir de los usos de la tecnología, razón por la cual hoy, a través del procesamiento de toda esta información, bajo el concepto de inteligencia artificial, puede haber procesamientos algorítmicos capaces de anticipar y predecir el comportamiento humano. Estas transformaciones son profundamente dinámicas. Y vemos hoy cómo se aplican a tácticas y a técnicas de consumo y de mercadeo. Hoy se puede leer el comportamiento del ser humano a partir del procesamiento de información exponencial sobre lecturas biométricas para establecer estados de ánimo e inclusive para predecir patologías. Hoy tenemos la capacidad de, a partir de las formas de consumo en las plataformas de comercio electrónico, poder anticipar los gustos, poder anticipar la hora, la forma en la que se consumen ciertos productos y también escapadas la inteligencia artificial de leer información en las plataformas OTT a partir del consumo de contenidos para establecer cuál es la combinación de cierto tipo de ingredientes para tener oferta audiovisual en estas plataformas y seguir capturando mayor audiencia. Es decir, a hoy esta evolución de los últimos 13 años marca un hito en la manera como la tecnología es capaz de leer al ser humano y la forma en la que el ser humano puede también utilizar la tecnología. Pero estamos también con retos enormes, retocéticos. ¿Cuál es el límite de la profundización de la minería de datos con respecto a los usuarios? ¿Cuál es el límite en la capacidad de hacer lo que llaman ustedes los profesores en la facultad de negocios de Harvard y de gobierno el nudging sobre los hábitos de consumo? ¿Cuál es el límite a partir del análisis de la información para determinar cómo se induce a ciertos comportamientos a la adquisición de ciertos productos? O inclusive, como lo hemos visto recientemente en polémicas que son mucho más interesantes en el plano de lo político con documentales, como el que se conoce como el dilema de las redes sociales, donde tenemos el Center for Humane Technology poniendo el debate sobre la forma en la que nuestro consumo de información con patrones algoritmicos nos puede llevar a profundizar nuestras radicalizaciones con nuestros gustos y a tener también por la forma en la que se emplean los criterios algoritmicos un rechazo a aquello que hoy no estamos contemplando como opción. Y tal vez de manera involuntaria, en algunos casos voluntaria, induciendo a la sociedad comportamientos de carácter político que no necesariamente fortalecen los dinamismos de la democracia. Si a eso lo llevamos a la combinación de inteligencia artificial, procesamiento de datos a sectores que están en transformación, eso nos lleva también a la discusión de los vehículos autónomos, porque la capacidad de los vehículos autónomos de tener una oferta posible en el futuro inmediato está también ligada a la forma en la que se procesa información sobre las vías, sobre los accidentes, sobre la periodicidad, sobre las horas de mayor tráfico. Pero abre debates éticos también sobre quién en un eventual caso de accidentalidad asume la responsabilidad contractual civil y, por qué no decirlo, penal a partir de las responsabilidades culposas. También lo propio puede existir cuando se utiliza la tecnología para hacer diagnósticos de ciertos comportamientos en la salud, con el procesamiento biométrico a partir de teléfonos inteligentes, de sensores de pulso y también la capacidad de utilizar toda la información disponible para hacer diagnósticos y pronósticos sobre comportamientos de la salud. ¿Cuál es el límite de la ética en el manejo de esa información? ¿Cuál es el límite de los comparadores de esa información? ¿Y cuánto trascienden los usos de esa información? Y lo propio también obedece a los sistemas de información que ya vienen implícitos también en productos tecnológicos que conviven con el ser humano. Las plataformas de inteligencia artificial como Cine o inclusive también como las desarrolladas por Amazon y las desarrolladas también por muchas de las grandes compañías tecnológicas de Asia nos permiten también abrir discusiones. ¿Cuánto nos están escuchando las máquinas? ¿Cuánto de lo que escuchan las máquinas están procesando? ¿Y cuánto ese procesamiento nos puede llevar a ser inducidos a comportamientos a partir del procesamiento que hacen las máquinas? Y nos abre también un debate. La inteligencia artificial es una forma en la que la tecnología el procesamiento de datos trata de ser acertivo. Pero la inteligencia artificial nunca va a llenar un vacío y es la humanidad. Nunca tendremos humanismo artificial, nunca tendremos creatividad artificial y nunca tendremos innovación artificial. La inteligencia artificial es una herramienta poderosa, pero debemos entender sus límites y su alcance. Somos hoy conscientes que la inteligencia artificial contribuye a tener un mundo más informado, más dinámico y con mejores servicios. Somos conscientes además de que en un país como Colombia nos hemos trazado la meta de ser el Silicon Valley de América Latina y tener en nuestro país la sede de web services, de almacenamiento, de internet de las cosas, de inteligencia artificial, de computación en la nube. Somos conscientes además que el uso de la inteligencia artificial es clave en el desarrollo del fintech y la inclusión financiera, que es clave en el health tech para poder nosotros mejorar los servicios de diagnóstico y la telemedicina. Somos conscientes que en materia de educación también nos permitan nosotros entender mejor a los estudiantes y facilitar la oferta e inclusive a partir de la interpretación de sus mejores mecanismos de aprendizaje ser mucho más acelerados en mejorar el desempeño académico en las pruebas internacionales. Somos conscientes que la inteligencia artificial contribuye a la lectura de información climatológica para anticipar y predecir muchos fenómenos naturales y que serán cada vez más recurrentes en el marco del cambio climático, que la inteligencia artificial nos ayudará a ejercer un mejor control del tráfico y que la inteligencia artificial será cada vez más importante para luchar contra la corrupción y contra el delito a partir de las lecturas algorítmicas precisas y la combinación de información en tiempo real. Por eso nosotros no estamos en la discusión de rechazar la evolución tecnológica. Todo lo contrario, queremos abrazarla, queremos hacer la parte de nuestra visión de Estado y por eso en estos 27 meses de gobierno con el apoyo del doctor Victor Muñoz, que me acompaña hoy acá al consejero presidencial para asuntos económicos y transformación digital, nosotros hemos llevado una conversación transversal que los permite que en el último índice de la Octe aparezcamos en el tercer lugar en gobierno digital, porque entendemos que la combinación de todas estas herramientas es crucial. Pero como no podemos descuidar la conceptualización humana, los límites, el marco de aplicación, nosotros también como gobierno hemos dado un paso adelante, un paso adelante en América Latina y celebro que nos estén acompañando en este propósito, no solamente la CAF, el Banco de Desarrollo para la región, sino también el Banco Interamericano de Desarrollo. Y nosotros con el equipo de gobierno, con el doctor Victor Muñoz a la cabeza, estamos lanzando lo que se conoce como el marco ético para el desarrollo de la Inteligencia Artificial en Colombia. Queremos ser el Silicon Valley de América Latina, sí. Queremos utilizar la Inteligencia Artificial, el internet de las cosas, utilizar también la computación en la nube y el Machine Learning para hacer una mejor sociedad, también. Pero poniendo sobre la mesa una discusión sensata, transparente, con visión de futuro, pero necesaria sobre la ética en el manejo de la información. Necesaria para que los ciudadanos nunca pierdan la libertad de elegir, que los ciudadanos nunca pierdan la libertad de interpretar a partir de hechos reales, la capacidad de interpretar a partir de información confiable y la capacidad también de utilizar la minería de datos al servicio del desarrollo humano en nuestra sociedad. Con eso nosotros damos un paso con plena convicción y nosotros queremos liderar también este proceso en la región y nos enorgullece haber sido el primer país hispanoparlante en tener con el World Economic Forum un centro para la Cuarta Revolución Industrial que ha sido fundamental, instrumental en este tipo de discusiones y que no solamente nos ayuda a mejorar la regulación, sino a través de la regulación poner los debates que le entra tranquilidad al ciudadano sobre el manejo de la información y sobre cómo las máquinas y la información se comportan frente a su cotidianidad. De manera que nosotros como gobierno tenemos ambiciones claras, uno dar el mayor salto en materia de conectividad que haya tenido nuestro país y aspiramos en los próximos 21 meses dejar a Colombia con un 70 por ciento de conectividad de internet de alta velocidad domiciliaria y móvil. Esperamos instalar 10 mil puntos de conexión en todo el territorio nacional. Estamos formando 100 mil programadores para que tengan las capacidades y las habilidades de insertarse a esta cuarta revolución industrial. Tenemos un gobierno que quiere ser cada vez más tecnológico, más digital y que esto también se extienda a los servicios de justicia y a otros servicios públicos. Pero el debate se tiene que dar y la evolución se tiene que dar con un marco ético que nos permita también proteger al ciudadano a sus derechos y sus libertades y garantizar que no haya nadie que con intereses puramente económicos y amañados o desinformando al ciudadano para arrebatarle su libertad de elegir al garantizarle unas informaciones en los criterios de aceptabilidad de condiciones técnicas pueda con eso afectar su propia capacidad de cumplir con los derechos habituales. Yo creo que hoy Colombia se sitúa no solamente la vanguardia al poner sobre la mesa esta discusión del marco ético, sino que también nos permite a nosotros entender que la tecnología está al servicio de los valores y no los valores al servicio de la tecnología. Por eso lo que nosotros queremos en una discusión que me parece sensata y profunda, necesaria en nuestra época, que lugares como el Center for Humane Technology han puesto sobre la mesa nos habiliten a nosotros para tener la discusión de cómo hacer una mejor democracia, una democracia que garantice todas las libertades y donde las noticias y la información y la data sea confiable. Una discusión ética sobre la inteligencia artificial busca que todas las herramientas fortanezca en el principio de la democracia, fortanezca en el principio de la libre competencia, fortalezcan también el principio de la equidad. Con esas bases, nosotros como gobierno damos este paso trascendental y nos complaza que aliados como la Universidad de Harvard, que aliados también como el World Economic Forum, que aliados también como el Banco Interamericano de Desarrollo y la CAF se sumen a que cumplamos el sueño de convertirnos en el Silicon Valley de América Latina, pero de convertirnos en ese Silicon Valley también con los mejores criterios éticos para la administración, el manejo y la difusión de la tecnología. Muchísimas, muchísimas gracias. Muchísimas gracias, señor presidente. Y de esta manera damos por finalizado este evento, no sin antes agradecerle a todos aquellos que se conectaron a través de las plataformas digitales. Un feliz día para todos.