Como garantir que as máquinas, na sua trajetória de ficar cada vez mais inteligentes e cada vez mais gerais, não causem mal ao ser humano? 
Como fazer com que os objetivos das IAs, mesmo quando elas forem superinteligentes, estejam alinhados com os nossos, dos seres humanos?







CAMBLY“Investir em você é sempre a melhor opção”

Desconto VIP somente para os ouvintes do SciCast! Acessem agora pelo cupom do Deviante e tenham planos a partir de 68 reais, para uma hora de aula por semana!

*** CAMBLY PROMO VIP ***
Planos Cambly a partir de R$68/mês para 1h de aula por semana -> SCICAST68Professor da semana

App do Cambly para iPhone
App do Cambly para Android

 

Patronato do SciCast:
Patreon SciCast
Padrim SciCast
PicPay SciCast

Sua pequena contribuição ajuda o Portal Deviante a continuar divulgando Ciência!

Contatos:
contato@scicast.com.br
https://twitter.com/scicastpodcast
https://www.facebook.com/scicastpodcast
https://instagram.com/scicastpodcast

Fale conosco! E não esqueça de deixar o seu comentário na postagem desse episódio!

Expediente:

Produção Geral:Tarik Fernandes e Fernando Malta

Equipe de Gravação:Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli

Edição: TalknCast

Citação ABNT:Scicast #540: Alinhamento IA. Locução: Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli. [S.l.] Portal Deviante, 09/06/2023. Podcast. Disponível em: https://www.deviante.com.br/podcasts/scicast-540

Imagem de Capa: FreepikReferências e Indicações

Consciência (SciCast #509)

Consciência artificial (SciCast #514)

Sugestões de literatura:
https://arxiv.org/pdf/1606.06565.pdf
https://vkrakovna.wordpress.com/category/ai-safety/
https://docs.google.com/spreadsheets/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml

 

Sugestões de vídeos:
https://www.youtube.com/playlist?list=PLqL14ZxTTA4fEp5ltiNinNHdkPuLK4778

 

Sugestões de links:
https://intervalodeconfianca.com.br/2022/09/29/variancia-146-lei-de-goodhart/
Carta para pausar a pesquisa em modelos avançados
Especialistas se posicionando: Geoffrey Hinton se demitiu da Google para poder falar abertamente dos riscos
Especialistas em alinhamento preocupados com a questão: Eliezer Yudkowsky, Max Tegmark, Paul Cristiano, Jan Leike

<div class="wp-block-group is-layout-flow">
<div class="wp-block-group__inner-container">
<p>Como garantir que as máquinas, na sua trajetória de ficar cada vez mais inteligentes e cada vez mais gerais, não causem mal ao ser humano? <br>Como fazer com que os objetivos das IAs, mesmo quando elas forem superinteligentes, estejam alinhados com os nossos, dos seres humanos?<br><br><span id="more-58278"></span></p>
<p><a href="https://i0.wp.com/www.deviante.com.br/wp-content/uploads/2023/05/ScicastCapa540.jpg?ssl=1"></a></p>
</div>
</div>
<div class="wp-block-group">
<div class="wp-block-group__inner-container">
<div class="wp-block-group">
<div class="wp-block-group__inner-container"> </div>
</div>
</div>
</div>
<div class="wp-block-group">
<div class="wp-block-group__inner-container"><hr>
<div class="wp-block-group__inner-container">
<div class="wp-block-group">
<div class="wp-block-group__inner-container">
<div class="wp-block-group__inner-container">
<div class="wp-block-group">
<div class="wp-block-group__inner-container" style="text-align: center;">
<p><a href="https://i1.wp.com/www.deviante.com.br/wp-content/uploads/2020/06/Cambly.png"></a></p>
<p style="text-align: center;"><strong><a href="http://bit.ly/scicastpodcast" target="_blank" rel="noopener">CAMBLY</a></strong></p>
<blockquote> <span style="text-align: center;">“Investir em você é sempre a melhor opção”</span></blockquote>
</div>
</div>
<div>
<div class="wp-block-group">
<p>Desconto VIP somente para os ouvintes do SciCast! Acessem agora pelo <a href="https://bit.ly/3BBprjx">cupom do Deviante</a> e tenham planos a partir de 68 reais, para uma hora de aula por semana!</p>
<p style="text-align: center;">*** CAMBLY PROMO VIP ***<br>Planos Cambly a partir de R$68/mês para 1h de aula por semana -&gt; <a href="https://bit.ly/3BBprjx">SCICAST68</a></p>
</div>
</div>
</div>
<div><a href="https://www.cambly.com/en/student/tutors/jonguerrero?lang=pt">Professor da semana</a></div>
<div class="wp-block-group__inner-container">
<div class="wp-block-group">
<div class="wp-block-group__inner-container">
<p><a href="http://apple.co/2eUHAwL" target="_blank" rel="noopener">App do Cambly para iPhone</a><br><a href="http://bit.ly/2ffLDHd" target="_blank" rel="noopener">App do Cambly para Android</a></p>
<hr></div>
</div>
</div>
</div>
</div>
</div>
<div class="wp-block-group__inner-container">
<div class="wp-block-group">
<div class="wp-block-group__inner-container">
<p>&nbsp;</p>
</div>
</div>
</div>
<p style="text-align: center;"><strong>Patronato do SciCast:</strong></p>
<ul>
<li><a href="http://www.patreon.com/scicast" target="_blank" rel="noopener">Patreon SciCast</a></li>
<li><a href="http://www.padrim.com.br/scicast" target="_blank" rel="noopener">Padrim SciCast</a></li>
<li><a href="http://picpay.me/scicast" target="_blank" rel="noopener">PicPay SciCast</a></li>
</ul>
<p style="text-align: center;">Sua pequena contribuição ajuda o Portal Deviante a continuar divulgando Ciência!</p>
<hr>
<p style="text-align: center;"><strong>Contatos:</strong></p>
<ul>
<li><a href="mailto:contato@scicast.com.br" target="_blank" rel="noopener">contato@scicast.com.br</a></li>
<li><a href="https://twitter.com/scicastpodcast" target="_blank" rel="noopener">https://twitter.com/scicastpodcast</a></li>
<li><a href="https://www.facebook.com/scicastpodcast" target="_blank" rel="noopener">https://www.facebook.com/scicastpodcast</a></li>
<li><a href="https://instagram.com/scicastpodcast" target="_blank" rel="noopener">https://instagram.com/scicastpodcast</a></li>
</ul>
<p style="text-align: center;">Fale conosco! E não esqueça de deixar o seu comentário na postagem desse episódio!</p>
<hr>
<p style="text-align: center;"><strong>Expediente:</strong></p>
<p style="text-align: left;"><strong>Produção Geral:</strong> <a href="https://twitter.com/FernandesTarik" target="_blank" rel="noopener">Tarik Fernandes</a> e <a href="https://twitter.com/fencas?s=20" target="_blank" rel="noopener">Fernando Malta</a></p>
<p style="text-align: left;"><strong>Equipe de Gravação:</strong> <span data-sheets-value="{&quot;1&quot;:2,&quot;2&quot;:&quot;Scicast #540: Alinhamento IA. Locução: Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli. [S.l.] Portal Deviante, 09/06/2023. Podcast. Disponível em: https://www.deviante.com.br/podcasts/scicast-540&quot;}" data-sheets-userformat="{&quot;2&quot;:8961,&quot;3&quot;:{&quot;1&quot;:0},&quot;11&quot;:3,&quot;12&quot;:0,&quot;16&quot;:10}" data-sheets-formula="=SE(R[0]C[-4]&lt;&gt;&quot;&quot;;&quot;Scicast #&quot; &amp; R[0]C[-5] &amp; &quot;: &quot; &amp; R[0]C[-4] &amp; &quot;. Locução: &quot; &amp; R[0]C[1] &amp; SE(R[0]C[2]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[2];&quot;&quot;) &amp; SE(R[0]C[3]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[3];&quot;&quot;) &amp; SE(R[0]C[4]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[4];&quot;&quot;) &amp; SE(R[0]C[5]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[5];&quot;&quot;) &amp; SE(R[0]C[6]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[6];&quot;&quot;) &amp; SE(R[0]C[7]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[7];&quot;&quot;) &amp; SE(R[0]C[8]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[8];&quot;&quot;) &amp; &quot;. [S.l.] Portal Deviante, &quot; &amp; TEXTO(R[3]C[-3];&quot;DD/MM/YYYY&quot;) &amp; &quot;. Podcast. Disponível em: &quot; &amp; R[0]C[-2];&quot;&quot;)">Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli</span></p>
<p style="text-align: left;"><strong>Edição: </strong><a href="https://www.instagram.com/talkncast/">TalknCast</a></p>
<p style="text-align: left;"><b>Citação ABNT:</b> <span data-sheets-value="{&quot;1&quot;:2,&quot;2&quot;:&quot;Scicast #540: Alinhamento IA. Locução: Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli. [S.l.] Portal Deviante, 09/06/2023. Podcast. Disponível em: https://www.deviante.com.br/podcasts/scicast-540&quot;}" data-sheets-userformat="{&quot;2&quot;:8961,&quot;3&quot;:{&quot;1&quot;:0},&quot;11&quot;:3,&quot;12&quot;:0,&quot;16&quot;:10}" data-sheets-formula="=SE(R[0]C[-4]&lt;&gt;&quot;&quot;;&quot;Scicast #&quot; &amp; R[0]C[-5] &amp; &quot;: &quot; &amp; R[0]C[-4] &amp; &quot;. Locução: &quot; &amp; R[0]C[1] &amp; SE(R[0]C[2]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[2];&quot;&quot;) &amp; SE(R[0]C[3]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[3];&quot;&quot;) &amp; SE(R[0]C[4]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[4];&quot;&quot;) &amp; SE(R[0]C[5]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[5];&quot;&quot;) &amp; SE(R[0]C[6]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[6];&quot;&quot;) &amp; SE(R[0]C[7]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[7];&quot;&quot;) &amp; SE(R[0]C[8]&lt;&gt;&quot;&quot;;&quot;, &quot; &amp; R[0]C[8];&quot;&quot;) &amp; &quot;. [S.l.] Portal Deviante, &quot; &amp; TEXTO(R[3]C[-3];&quot;DD/MM/YYYY&quot;) &amp; &quot;. Podcast. Disponível em: &quot; &amp; R[0]C[-2];&quot;&quot;)">Scicast #540: Alinhamento IA. Locução: Tarik Fernandes, Marcelo de Matos, Lennon Ruhnke, Livia Nádia da Costa Leite, Natalia Nakamura, Roberto Spinelli. [S.l.] Portal Deviante, 09/06/2023. Podcast. Disponível em: https://www.deviante.com.br/podcasts/scicast-540</span></p>
<p><strong>Imagem de Capa: </strong>Freepik</p>
<hr></div>
</div>
<h3 style="text-align: center;">Referências e Indicações</h3>
<p><a href="https://www.deviante.com.br/podcasts/scicast-509/">Consciência (SciCast #509)</a></p>
<p><a href="https://www.deviante.com.br/podcasts/scicast-514/">Consciência artificial (SciCast #514)</a></p>
<p><b>Sugestões de literatura</b><b>:</b></p>
<ul>
<li style="font-weight: 400;" aria-level="1"><a href="https://arxiv.org/pdf/1606.06565.pdf"><span style="font-weight: 400;">https://arxiv.org/pdf/1606.06565.pdf</span></a></li>
<li style="font-weight: 400;" aria-level="1"><a href="https://vkrakovna.wordpress.com/category/ai-safety/"><span style="font-weight: 400;">https://vkrakovna.wordpress.com/category/ai-safety/</span></a></li>
<li style="font-weight: 400;" aria-level="1"><a href="https://docs.google.com/spreadsheets/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml"><span style="font-weight: 400;">https://docs.google.com/spreadsheets/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml</span></a></li>
</ul>
<p>&nbsp;</p>
<p><b>Sugestões de vídeos</b><b>:</b></p>
<ul>
<li style="font-weight: 400;" aria-level="1"><a href="https://www.youtube.com/playlist?list=PLqL14ZxTTA4fEp5ltiNinNHdkPuLK4778"><span style="font-weight: 400;">https://www.youtube.com/playlist?list=PLqL14ZxTTA4fEp5ltiNinNHdkPuLK4778</span></a></li>
</ul>
<p>&nbsp;</p>
<p><b>Sugestões de links:</b></p>
<ul>
<li style="font-weight: 400;" aria-level="1"><a href="https://intervalodeconfianca.com.br/2022/09/29/variancia-146-lei-de-goodhart/"><span style="font-weight: 400;">https://intervalodeconfianca.com.br/2022/09/29/variancia-146-lei-de-goodhart/</span></a></li>
<li aria-level="1"><a href="https://futureoflife.org/open-letter/pause-giant-ai-experiments/">Carta para pausar a pesquisa em modelos avançados</a></li>
<li aria-level="1"><a href="https://www.bbc.com/portuguese/articles/cgr1qr06myzo">Especialistas se posicionando: Geoffrey Hinton se demitiu da Google para poder falar abertamente dos riscos</a></li>
<li aria-level="1">Especialistas em alinhamento preocupados com a questão: <a href="https://www.youtube.com/watch?v=AaTRHFaaPG8&amp;t=10s&amp;pp=ygUebGV4IGZyaWRtYW4gZWxpZXplciB5dWRrb3dza3kg">Eliezer Yudkowsky</a>, <a href="https://youtu.be/VcVfceTsD0A">Max Tegmark</a>, <a href="https://ai-alignment.com/my-views-on-doom-4788b1cd0c72">Paul Cristiano</a>, <a href="https://twitter.com/janleike/status/1636788627735736321">Jan Leike</a></li>
</ul>

O podcast sobre ciência mais divertido da internet brasileira traz semanalmente informação, cultura e diversão envolvendo o público e tornando o aprendizado leve, simples e descomplicado.

Scicast

O podcast sobre ciência mais divertido da internet brasileira traz semanalmente informação, cultura e diversão envolvendo o público e tornando o aprendizado leve, simples e descomplicado. 

<p>O podcast sobre ciência mais divertido da internet brasileira traz semanalmente informação, cultura e diversão envolvendo o público e tornando o aprendizado leve, simples e descomplicado. </p>

Como garantir que as máquinas, na sua trajetória de ficar cada vez mais inteligentes e cada vez mais gerais, não causem mal ao ser humano? Como fazer com que os objetivos das IAs, mesmo quando elas forem superinteligentes,

Advertisement