Da evidência à ação
Testar riscos definidos. Publicar métodos e limitações. Traduzir resultados em mudanças que instituições possam implementar.
Instituto em formação · Brasil
Salvaguardas práticas para o futuro da humanidade com a IA.
Transformando evidências sobre riscos da IA avançada em ações, com as economias emergentes no centro.
01 / Nosso propósito
Com o avanço da inteligência artificial geral, instituições precisam compreender riscos, testar salvaguardas e agir. Estamos desenvolvendo um instituto com base no Brasil para transformar evidências em proteção prática para o futuro da humanidade.
Nosso foco inclui riscos graves e potencialmente catastróficos da IA cada vez mais capaz. Avaliações práticas desenvolvem capacidade institucional; por si só, não demonstram que a AGI é segura.
Testar riscos definidos. Publicar métodos e limitações. Traduzir resultados em mudanças que instituições possam implementar.
Começar pelo Brasil, trabalhar com especialistas locais e adaptar salvaguardas aos idiomas e às instituições atendidas.
Supervisão humana, financiamento transparente e responsabilidade clara pelas decisões desde o início.
02 / Primeiro ano proposto
Um programa inicial focado, dimensionado conforme os recursos e a preparação dos parceiros. São atividades e metas propostas.
Avaliar sistemas de IA avançada em contextos definidos, começando por um assistente de informações de serviços públicos em português, com perguntas sintéticas.
4 projetos-piloto propostosTrês no Brasil e um na Índia, se houver parceiro qualificado, recursos e condições de uso de dados. Caso contrário, quatro no Brasil.
Ajudar instituições a ensaiar decisões, escalonamento e coordenação diante de incidentes graves envolvendo IA.
2 exercícios · 100 profissionaisCapacitação e exercícios serão avaliados por ações documentadas e seu acompanhamento.
Transformar resultados em controles práticos, orientações para contratação e procedimentos operacionais.
Ferramentas em inglês e portuguêsMeta: três instituições implementarem ao menos três controles cada, com duas mudanças documentadas em contratações ou políticas operacionais.
03 / Onde começamos
A expansão dependerá de conhecimento local e demanda demonstrada. A ambição regional não representa escritórios, parcerias ou programas já em operação.
Base operacional proposta e primeiros projetos-piloto. Desenvolver um modelo de execução com foco no português, nas instituições locais e em necessidades práticas.
Possível local da quarta avaliação, dependendo de parceiro local qualificado, condições adequadas para dados e financiamento.
Desenvolver prioridades país a país, com especialistas e comunidades locais. O continente reúne diferentes contextos regulatórios e institucionais.
Explorar prioridades locais de preparação para a IA avançada, salvaguardas institucionais e implementação responsável.
Construir relações em torno de idiomas locais, necessidades públicas e diferentes contextos institucionais da região.
04 / Pessoas e responsabilidade
A estrutura proposta reúne um conselho de governança, assessores independentes nas áreas científica e de políticas públicas e uma equipe executiva. As nomeações estão em desenvolvimento.
O fundador, cinco membros com experiência regional e um especialista independente em finanças ou auditoria. O plano prevê presidência independente e maioria de membros independentes.
Nenhum possível membro é apresentado como nomeado. Estratégia, despesas, publicações e compromissos externos permanecem decisões humanas.
Cinco funções consultivas de IA apoiam pesquisa e planejamento. Não possuem autoridade de governança nem representam o instituto de forma independente.
Métodos de avaliação e salvaguardas técnicas.
Orçamentos, cenários de captação e apoio à prestação de contas.
Comunicação bilíngue clara e baseada em evidências.
Prioridades, marcos de execução e análise de escolhas.
Análise de políticas e salvaguardas em contratações.
As funções consultivas apoiaram o desenvolvimento dos documentos de fundação. A operação contínua dos agentes ainda não foi estabelecida.
05 / Apoio à fundação
A meta de captação proposta para o primeiro ano é US$ 1 milhão: US$ 900 mil para execução e operações e US$ 100 mil em reserva.
| Equipe principal | US$ 360.000 |
|---|---|
| Parceiros locais e bolsas | US$ 200.000 |
| Pesquisa contratada | US$ 120.000 |
| Capacitação e exercícios | US$ 70.000 |
| Tecnologia | US$ 40.000 |
| Comunicação | US$ 35.000 |
| Jurídico, contabilidade e administração | US$ 50.000 |
| Viagens | US$ 25.000 |
| Reserva | US$ 100.000 |
| Total | US$ 1.000.000 |
Alocação planejada, não recursos captados ou despesas realizadas. Compromissos dependerão de etapas de financiamento e supervisão do conselho.
Estamos preparando conversas com doadores fundadores, parceiros de execução e possíveis assessores. Contribuições dependerão da definição da entidade recebedora e do processo de contribuição.
Apoiar as pessoas e capacidades necessárias para um início independente.
Ajudar a definir um piloto útil e as salvaguardas a testar.
Contribuir com conhecimento técnico, regional, de governança ou finanças.
06 / Biblioteca de planejamento
Seis documentos de fundação organizados para análise e colaboração. A sala oferece busca, filtros por categoria, leitura e download para convidados autorizados.
Entrar na sala de documentos↗Tem um código de acesso? Entre na sala para consultar os documentos compartilhados com você. Para solicitar acesso, fale com a pessoa que apresentou o instituto.
FUTURE OF HUMANKIND INSTITUTE
O instituto está em formação. Queremos conversar sobre apoio à fundação, colaboração local e conhecimento independente.
Crie uma breve proposta para compartilhar com seu contato no instituto. Esta ação não envia mensagens nem libera acesso a documentos.