Dados para a sociedade civil | Hackeando para o bem comum

Na primavera deste ano, um crime de dados absurdo nos EUA causou comoção . Os chamados “Zizians”, especialistas anarquistas em dados do Vale do Silício, decidiram salvar o mundo de uma futura inteligência artificial (IA) todo-poderosa. Em vez disso, ao longo dos anos, eles se desenvolveram e se tornaram um suposto culto assassino e, após sua prisão, se tornaram um símbolo do que pode acontecer quando o medo dos rápidos desenvolvimentos tecnológicos toma conta. É o debate clássico que sempre ressoa com a IA: quem desenvolve a tecnologia para benefício de quem, a quem ela deve servir no futuro, grandes corporações ou a sociedade civil — e como implementar esta última?

Em um dia cinzento e um tanto ventoso de maio em Colônia, é exatamente isso que precisa ser esclarecido. Na maior sala do centro internacional da Caritas, no bairro um pouco mais nobre de Sülz, mais e mais pessoas estão chegando gradualmente. Eles tomam café, conversam ou apertam botões virtuais em seus smartphones de uma forma um tanto constrangedora. Cerca de 70 representantes da sociedade civil se reuniram para participar de um evento organizado pelo Civic Data Lab (CDL) .

O CDL, financiado pelo Ministério Federal da Família (BAMFS) desde 2023, visa apoiar a sociedade civil na coleta, uso e reutilização de dados. De acordo com uma pesquisa de 2024 da Fundação Bertelsmann sobre atitudes em relação a dados de organizações da sociedade civil, elas geralmente estão abertas a essas novas tecnologias (97,9%). No entanto, de acordo com suas próprias declarações, eles não têm recursos humanos e financeiros para usá-los de forma eficiente. Também há preocupações com a proteção de dados.

O CDL agora administra vários programas de educação continuada sobre o tema de dados, oferece cursos on-line gratuitos e organiza as chamadas "horas de consulta de dados", onde as organizações podem receber aconselhamento sobre seus projetos. "Também se trata muito de transmitir habilidades de dados para pessoas que antes não tinham acesso a elas", explica a equipe de imprensa da CDL em uma entrevista ao "nd". Há procura e conhecimento suficientes dos serviços oferecidos – por exemplo, existe agora uma longa lista de espera para consultas de dados.

O BarCamp em Colônia, juntamente com uma plataforma de trabalho colaborativo, se enquadra na categoria de networking. Um BarCamp é um tipo de conferência onde os próprios participantes determinam o programa no início. Trata-se de aprender uns com os outros, como neste caso sobre dados, IA e digitalização em um contexto de bem comum. Aliás, 46,4% das organizações pesquisadas pela Fundação Bertelsmann buscam intercâmbio com outras para se manterem atualizadas com os desenvolvimentos tecnológicos.

Os tópicos discutidos em Colônia são diversos. Alguns representantes de instituições sociais discutem como estão implementando novas regulamentações da UE sobre IA, um pesquisador de Berlim apresenta seu projeto sobre o uso de dados para o bem comum e um representante da "Associação de Autoajuda para Pessoas com Ferimentos Médicos", sediada em Hamburgo, busca informações sobre o "modelo de negócios analógico e insustentável" da associação.

Depois que todos apresentaram suas ideias e marcaram suas preferências em uma parede da sala usando adesivos coloridos, o grupo se divide em pequenos grupos. Um microfone é instalado no “Fisimatentenraum”. O debate é gravado, depois transcrito e resumido usando um software de reconhecimento de fala. Uma espécie de experimento em meio ao networking. Lá, Benjamin Degenreich, da startup Förderfunke, apresenta um projeto. O objetivo é encontrar uma maneira de informar proativamente os cidadãos sobre os serviços governamentais e ofertas relevantes para eles – máxima abertura e máxima proteção de dados são o plano, disse Degenreich ao »nd«.

"Manter os cidadãos ativamente no escuro significa minar a democracia."

Benjamin Degenreich Financiamento Spark

Um exemplo clássico de benefícios sociais que não são reivindicados por aqueles que têm direito a eles é o abono de família. É por isso que a reforma do sistema de benefícios para crianças pelo governo do semáforo teve como objetivo principal fornecer acesso àqueles que já tinham direito a ele. A discrepância entre as demandas teóricas e percebidas surge de hierarquias de conhecimento, de abordagens classificadas e racializadas ou da falta de tempo por parte dos pais. Vozes cínicas também argumentam que essas hierarquias de informação economizam dinheiro para o estado. “Manter os cidadãos ativamente no escuro significa minar a democracia”, diz Degenreich.

Na Rodada de Colônia, organizações sem fins lucrativos compartilham suas experiências de consultas. Eles acolhem a iniciativa da startup, mas também expressam preocupações. Por exemplo, devido ao Toeslagenaffaire (caso do abono de família): um escândalo holandês no qual o Estado acusou principalmente famílias migrantes de fraude social e exigiu o reembolso dos abonos de família no final de 2020.

O caso Toeslagen é considerado o primeiro caso em que um governo teve que pagar indenização pela discriminação automatizada de cidadãos baseada em dados. É por isso, diz Degenhart, que o projeto Förderfunken trata de dados estruturados em vez de LLMs, ou seja, grandes modelos de linguagem baseados em IA. "As pessoas devem ser capazes de entender por que têm direito a benefícios ou não."

"Em princípio, a sociedade civil não deve simplesmente cuidar da economia."

Laboratório de Dados Cívicos Leo Preu

As consultas do CDL se concentram em considerar conjuntamente como a inteligência artificial pode ser aplicada adequadamente nos respectivos projetos. Mas também se trata de reconhecer a linha tênue entre onde o uso da inteligência artificial faz sentido e onde não faz, diz Leo Preu, da CDL, durante o almoço vegetariano, entre falafel e saladas variadas. "Em princípio, a sociedade civil não deve simplesmente cuidar da economia."

Um exemplo: uma associação antibullying está considerando usar um chatbot para consultas on-line porque os poucos voluntários só podem trabalhar on-line após algumas sessões de treinamento. Um projeto difícil de implementar. Primeiro, os bots precisam ser extremamente bem programados para evitar transmitir declarações problemáticas aos jovens no futuro. Em segundo lugar, surge a pergunta: por que confiamos nas pessoas apenas para fornecer conselhos on-line após uma fase de aprendizado, mas queremos enviar a IA para o campo imediatamente?

Agora damos mais empatia à IA do que aos humanos? Em um workshop à tarde, Preu se aprofundará no debate. O painel discute a antropomorfização da IA, ou seja, sua humanização e suas consequências para os relacionamentos, o isolamento e a sociedade civil. Na pior das hipóteses, isso poderia terminar como os Zizians mencionaram no começo?

Muito além desses experimentos mentais, o BarCamp está repleto de exemplos positivos do uso de dados para o bem comum. Incluindo aquelas que foram implementadas nos últimos dois anos com a ajuda da CDL. Projetos de democracia que aproximam os jovens da política, conceitos que transformam textos em linguagem inclusiva de gênero, semelhantes à plataforma de tradução DeepL, ou plataformas que conectam projetos de corais regionais. A lição do dia: As novas tecnologias podem ser muito benéficas – se forem usadas conscientemente.