Em tempos de discussão sobre as potencialidades e desafios da Inteligência Artificial, a revistapontocom indica a leitura do Caderno NIC.br sobre o assunto. Produzido pelo Comitê Gestor da Internet no Brasil – CGI.br, o caderno Inteligência artificial e cultural: perspectivas para a diversidade cultural na era digital traz informações consolidadas e aponta documentos oficiais que abordam o assunto numa perspectiva global.
Clique aqui e acesse, na íntegra, a publicação.
Abaixo, reproduzimos a apresentação do estudo.
Por Demi Getschko
Núcleo de Informação e Coordenação do Ponto BR — NIC.br
Hoje, a Inteligência Artificial (IA) está completamente imbricada, não somente nas áreas de ciência e tecnologia, mas também em diversos temas e setores da sociedade. Embora o debate em torno do assunto não seja algo novo, com a expansão do poder computacional e com a atual imensa disponibilidade de dados associada a uma inesgotável capacidade de armazenamento, os avanços têm sido exponenciais e sem precedentes.
Grandes bases de dados – as chamadas Big Data – são utilizadas para treinar algoritmos que compõem os sistemas de IA, que passam a ser capazes de inferir padrões e definir as ações necessárias para se atingir determinado objetivo. Da saúde à segurança pública, da educação à cultura, as aplicações de IA representam um potencial enorme de auxiliar a humanidade em seus diversos e complexos desafios.
Por outro lado, tal potencial traz também inúmeras preocupações e demanda um olhar atento para questões referentes a privacidade de dados, transparência, explicabilidade e eventual responsabilização (accountability). Além disso, a partir dos conjuntos de dados utilizados para treinar os algoritmos, podem estar inseridos vieses que aprofundem discriminações e desigualdades.
Concebidas originalmente por humanos, as técnicas de aprendizagem de máquina (machine learning) e seu subconjunto de aprendizagem profunda (deep learning) possibilitam que as máquinas “evoluam” por si mesmas e se aprimorem automaticamente por meio da experiência. Para examinar os impactos de tais aplicações, torna-se necessária uma visão holística e abrangente, que considere princípios éticos e de direitos humanos.
A agenda sobre ética de IA é, atualmente, um dos principais temas de discussão em nível internacional. Segundo levantamento do Banco Interamericano de Desenvolvimento (BID), em 2019 havia mais de 90 documentos sobre princípios da IA publicados por governos, empresas, organizações internacionais e instituições acadêmicas; desde então, tal debate só tem se aprofundado e ganhado importância. Como exemplo, veja-se a publicação da Recomendação sobre a Ética da Inteligência Artificial da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO). Ao estabelecer princípios e diretrizes para uma abordagem de IA centrada no ser humano, tal documento se tornou o primeiro instrumento global negociado multilateralmente para servir de guia a países na elaboração de seus marcos normativos, na necessidade eventual de regulação e na construção de políticas públicas adequadas.
Embora esse debate esteja em ascensão e envolva múltiplos atores, é sentida uma falta de participação mais intensa da cultura nos marcos referenciais sobre IA. Há ainda poucos documentos setoriais específicos que discutem os impactos da IA na cultura ou a incorporam a essa dimensão ética, como a própria recomendação da UNESCO.
Ao mesmo tempo, a IA tem ganhado cada vez maior relevância e aplicação no setor cultural, sobretudo em função da proliferação das plataformas digitais utilizadas na disseminação de conteúdos culturais. A IA está presente não apenas nos sistemas de recomendação de conteúdos baseados em algoritmos, como também na criação de obras artísticas por mecanismos de aprendizagem de máquina, na produção, edição e adaptação de conteúdos, na mediação cultural em visitas guiadas nas instituições culturais, no atendimento ao público por meio de assistentes virtuais, na organização e disponibilização de acervos digitais, na gestão cultural e análise de dados para mapeamento de públicos e desenvolvimento de estratégias promocionais, entre muitas outras aplicações. A despeito de sua incidência na cultura, são poucos os referenciais políticos e estratégicos que tratam do tema, assim como as publicações e pesquisas acadêmicas.
No contexto nacional, a Estratégia Brasileira da IA (EBIA), publicada em 2021, tem como objetivo estimular a pesquisa, a inovação e o desenvolvimento de soluções em IA, assim como chamar atenção para aspectos éticos em torno do uso dessas tecnologias. Em concordância com os princípios para a governança e uso da Internet, o Comitê Gestor da Internet no Brasil (CGI.br) também tem atuado na promoção de iniciativas nesse campo, como no fomento à criação de Centros de Pesquisas Aplicadas em IA6, com recursos oriundos do registro de domínios .br, em parceria com o Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC) e a Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP).
A realização de debates públicos e a capacitação nesta temática também têm ocupado diversas frentes de trabalho do Núcleo de Informação e Coordenação do Ponto BR (NIC.br).
Um marco nesse sentido foi a realização do Fórum Regional de Inteligência Artificial na América Latina e no Caribe, da UNESCO, em 2019, além do Workshop Regional sobre IA e Crianças, promovido pelo Fundo das Nações Unidas para a Infância (UNICEF), em 20208. Da mesma forma, o Annual Workshop on Survey Methodology, do NIC.br, tem abordado a IA quanto a sua interface com a produção de dados e estatísticas. Mais recentemente, em 2021, houve o apoio para um novo Curso Online Aberto e Maciço (Massive Open Online Course [MOOC]) sobre Inteligência Artificial para o Judiciário desenvolvido pela UNESCO e pela The Future Society.
Além do protagonismo na realização destas iniciativas, o Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br|NIC.br) tem estimulado reflexões sobre o tema em publicações como o policy paper Inteligência Artificial e cultura: oportunidades e desafios para o Sul Global, publicado pela UNESCO em 202110, e o Panorama Setorial da Internet (PSI), que tratou de tendências de IA na justiça, na saúde, na educação e na infância, e no trabalho11. Aavaliação e a medição do avanço dessas tecnologias também têm sido incorporadas em pesquisas, como a TIC Empresas, a TIC Governo Eletrônico, a TIC Educação e a TIC Saúde.
O presente Estudo Setorial sobre Inteligência Artificial e Cultura vem agregar-se aos esforços para construção dessa agenda, tratando mais especificamente das aplicações de IA no setor cultural e de seus desdobramentos para a proteção e a promoção da diversidade de expressões culturais. Embora existam outros documentos e iniciativas, tanto no campo de IA como no da cultura, a interface entre os dois temas é ainda muito pouco debatida. Dessa forma, o estudo traz uma contribuição relevante, tanto para colocar esse importante tema em pauta, quanto para subsidiar o desenvolvimento de possíveis estratégias regulatórias e de políticas públicas.
