O Pequeno (Grande) Manual da USENET
Decidi, para o bem de vocês, quebrar as Regras 1 e 2 e explicar a USENET e tudo o que se pode fazer com ela. Bem, quase tudo.
First things first,
O que é a USENET?
Bem, amiguinhos, vocês que são noobs e acham que não havia computadores antes do Google provavelmente não sabem que havia redes antes da Internet. E é lá em 1979 que nossa história começa.
Na época, redes eram lentas, grandes mainframes dominavam, homens eram homens e programavam em ASM e Pokémon ainda era um delírio na mente de um garoto japonês. O conceito de email como é conhecido hoje não existia, pois não havia domínios da internet, logo, listas de discussão também não existiam.
Eis que alguém resolveu criar um sistema para tal. Uma pessoa postaria uma mensagem em um ou mais newsgroups e quem quisesse ler e responder tinha livre acesso para tal, desde que pudesse se conectar a um servidor de relay. Os servidores eram interconectados, permitindo que, embora nem todos tivessem todos os artigos de todos os newsgroups, a experiência fosse transparente para o usuário final. Tão transparente quanto uma conexão de 8 bauds permitia, isso é.
Estrutura
Como que se identificam os newsgroups, então?, você me pergunta. Pelo nome, oras. Eles são divididos em uma árvore sem um nodo principal (puristas vão dizer que são diversas árvores, mas eu os mando à merda). Por exemplo, todos as listas sobre ciências deveriam estar no “sci.”. Por exemplo, discussões sobre matemática acontecem no sci.math.
Eis que, um belo dia, alguém resolveu que queria discutir sobre algo totalmente aleatório. Aí surgiu a árvore alt, a mais interessante para vários propósitos.
BINÁRIOS!!!111oneoneone
No jargão, um binário é qualquer ‘blob’ (definir jargão com jargão: eu pratico). Uma imagem, uma música, um filme. Arquivos que não são puro texto. E eles ficam na árvore alt.binaries.
Mas a USENET é uma rede antiga, não foi projetada para essas coisas. Servidores têm de replicar conteúdo, mas se alguns bits se perderem numa mensagem de texto não há muito problema. A mensagem ainda está lá. Com binários a história já é outra.
Alternativas foram criadas e vocês usam a maioria delas hoje em dia e nem sabem porque diabos. Para prevenir maiores perdas, divide-se o arquivo em várias partes, de modo a facilitar a recuperação, e cria-se arquivos de paridade.
Sabe quando tu baixa aquele torrent e vem 435 .rar, um .svf e um .par2? Aquele arquivo veio direto da USENET e foi baixado de maneira old school. Já chego lá.
A idéia é a seguinte: o servidor A vai replicar o conteúdo do servidor B, mas o protocolo não é muito tolerante a falhas (ou tolerante demais, dependendo do ponto de vista), e partes dos artigos podem se perder no meio do caminho. Melhor que se perca um arquivo de 10MB do que um de 700, certo? Mais fácil de baixar denovo o arquivo problemático (que pode ter sido re-replicado). Mais fácil ainda é consertar dito arquivo, e para isto serve o par2. Através de um algoritmo macabro ou simples magia negra, ele consegue, muitas vezes, descobrir o quê há de errado com um arquivo rar e recuperá-lo. Coisa linda.
Mas fazer isso na mão é terrível. Aí que entra os newsreaders modernos.
Sendo moderninho
Vamos começar um pouco antes. Imagine você que há quatrocentas pessoas enviando arquivos para um certo grupo ao mesmo tempo. As partes chegam entrelaçadas, um pedaço de um arquivo, depois um de outro, depois talvez uns 3 de outro, e por aí vai. Catar as partes de um arquivo grande seria infernal.
Para isto criou-se um padrão, o NZB. Ele é um arquivinho, análogo a um .torrent, que é gerado após o envio dos arquivos para um newsgroup apontando a localização de todas as partes dele. Isso permite também a indexação destes mesmos arquivos por sites, exatamente igual aos trackers de torrent.
Um cliente moderno vai abrir este .nzb e baixar automaticamente todas as partes do arquivo, verificar se precisam ser reparadas e reparar caso seja necessário, extrair tudo e te dizer “Tá tudo pronto, chefinho, quer um café?”.
E há vários clientes que suportam este padrão e vários sites que indexam. Dois clientes chamam mais a atenção, o SABnzbd+ e o Unison.
O SABnzbd+ é escrito em python e roda até em uma batata-doce, se você pedir com jeitinho. Ele é feio, só tem uma interface web, mas faz o que se propõe e o faz muito bem.
Este aqui está rodando no Ubuntu, mas controlo pela rede se preciso, ou até mesmo pelo iPhone.
Ele pode ser baixado AQUI e é totalmente grátis.
Ele não serve para navegar na USENET, somente para baixar de lá. Para isto é necessário um site indexador. Já chego lá.
A instalação em cada sistema é diferente, não vou detalhar aqui, mas o site é bem bom, tem uma wiki detalhada. Dê uma conferida.
A outra opção é o Unison, da Panic!
Este é pago, custa 30 dólares e só funciona no OSX, mas é o cliente mais elegante para se navegar pela USENET. Não só de binários viverá o homem, já dizia o poeta (ou seria o profeta?).
A USENET ainda é utilizada para seu propósito original. Aí em cima, por exemplo, eu estou lendo a linux.kernel, a lista de discussão oficial do desenvolvimento do kernel do linux.
Alternativa de pobre: Google Groups.
O Google indexa muito da USENET e o faz de graça, mas a árvore alt. não está lá. Nada de pirataria desse jeito, mas os grupos de texto podem ser acessados, em sua marioria.
Servidores
Pra acessar essa maravilha toda, tu vais precisar de acesso a um servidor, e isto não é de graça. Sim, amiguinhos, a USENET é paga. Alguém tem que manter estes servidores e o único jeito de ganhar dinheiro é cobrando diretamente dos usuários.
Por sorte, não é caro. Eu recomendo a Supernews, que custa uns 10 dólares por mês e aceita Paypal sem compromisso nenhum.
Outras opções são a Giganews, que tem a maior retenção de todas mas é uma das mais caras e a Blocknews, que vende por tráfego. Caso esteja em dúvida, com a Blocknews dá para comprar 5GB por $2,75 e ver se gosta da idéia. Mas eu iria direto para a Supernews.
Há algumas coisas a se manter em mente quanto a esses servidores: Retenção, Número máximo de Conexões e suporte a SSL.
Retenção é a idade de um post quando ele é deletado do servidor. Com a quantidade de informações postadas na USENET diariamente, é impossível manter tudo, então após alguns meses o post é deletado. A média está em uns 400 dias, o que é bem bom. Muitas coisas são repostadas com freqüência, então não é exatamente um problema mesmo para coisas mais velhas.
Número máximo de conexões é exatamente isso, quantas conexões simultâneas do mesmo IP são permitidas. Não sei de nenhum servidor que permite conexões de mais de um IP, então nada de compartilhar contas. Mais conexões simultâneas = mais chances de baixar na velocidade máxima da sua conexão.
Suporte a SSL é a capacidade do servidor de manter conexões encriptadas. Provedores de internet podem ser malvados e reduzir a velocidade do teu acesso à USENET do mesmo jeito que fazem com torrent. Se tu encriptares o tráfego, eles não vão saber o quê tu tá fazendo e não vão te capar a conexão.
Na Supernews eu já atingi 11MBps (isto é onze megabytes por segundo, também conhecido como oitenta e oito megabits por segundo, numa conexão que obviamente não é a da minha casa) com 30 conexões simultâneas e SSL.
Segurança
Eu sou muito paranóico, então acredite em mim que eu pesquisei demais e posso te dizer com tranqüilidade que é seguro baixar da USENET. O único jeito de descobrirem o quê tu tá baixando é se tu contares (desde que uses SSL). Vai firme, os servidores não mantém logs. Agora, se você começar a enviar conteúdo…
Sites indexadores
A USENET é um lugar enorme e selvagem. Acredite em mim. Procurar qualquer coisa lá é enlouquecedor. Para resolver isto há sites que indexam o conteúdo e geram nzbs prontos para serem adicionados ao seu cliente. Os melhores são:
TVNZB.com: Só séries de TV, anda com o servidor meio instável. Grátis.
NZBs(dot)ORG: De tudo, mal categorizado, mas com uma engine de busca bem decente. Requer registro, mas é grátis.
Newzbin: O antigo gigante que recentemente se meteu em brigas contra a MPAA e foi obrigado a desativar as categorias de TV e filmes, mas as outras continuam ativas. Costumava ser invite-only e pago, ainda por cima, agora está aberto e grátis.
NZBMatrix: Feio que dói, mas o melhor atualmente. Custa algumas libras para cadastrar, mas só se paga uma vez.
Sou preguiçoso, quero tudo automático
Boa notícia é que eu também sou e já testei praticamente todas as maneiras de automatizar minha vida.
Quem acompanha muitas séries de TV sabe como é complicado baixar todas elas, ficar lembrando do dia que tem episódio novo, se tem essa semana ou não. Mas há uma solução!
O Sick-Beard é outra dessas maravilhas escritas em Python que roda até em uma banana, com vaselina suficiente.
Novamente, a instalação depende de cada sistema, então dê uma olhada na Wiki deles.
Esta maravilha faz tudo pra ti: consulta o TVRage para descobrir quando tem episódio novo, procura nos indexadores e bota a baixar no SABnzbd+ pra ti. Tem como fazer ele funcionar com outros clientes, mas ele brilha mesmo com o SAB.
Se tu quiseres, ele baixa os episódios antigos da série, move os arquivos, renomeia e organiza, adiciona sinopse, thumbnail do episódio e pôster da temporada e avisa o XBMC ou o Boxee que tem episódio novo.
Além disso, ele pode baixar o episódio no primeiro formato que aparecer, e, caso não seja 720p, baixar a versão 720p assim que ela estiver disponível e substituir na coleção.
Sensacional.
Muito bonito, mas qual a vantagem disso sobre torrent, ou por que devo pagar se torrents são grátis?
As coisas saem primeiro na USENET, já que os grupos que lançam no torrent precisam distribuir entre si os arquivos primeiro para ter seeds. Além disso, tu não estás preso ao inferno de arquivos sem seeds, a velocidade é constante e, provavelmente o máximo da tua conexão.
E já falei que as coisas saem antes lá? Quase toda esta temporada de Chuck estava aparecendo na USENET cerca de 12 horas antes de passar na TV americana. Vazava de dentro da emissora, suponho, e em 720p.
Vai lá, instala o SABnzbd+ e assina um mês ou dois da Supernews. Tu nunca mais vais querer usar torrent na vida.
E, não, não tenho medo de falar sobre isso, eu acabo comprando os DVDs ou BluRays dos filmes e séries que baixo, minha consciência está tão limpa quanto os esgotos de Paris. OH WAIT-
Related posts:











Muito bem explicado! Mandarei o link pra este post sempre que me perguntarem a respeito de Usenet no Twitter.
eu uso o sabnzbd e paguei o nzb matrix tb, realmente é o melhor. achei que faltou a parte de cadastro de rss no sabnzbd pra download automático, mas essa dica do sick beard pqp muito obrigado mesmo. e pra iphone eu usava o mynzb, mas aí instalei o os4 e parou de funcionar. nao consegui mesmo foi fazer a configuraçao de novo, tens alguma dica?
also, EXCELENTE post!
Também uso o myNZB no iPhone, mas não to com o OS4.
Suponho que a interface web do sab deva quebrar um galho por um tempo.
Ótimo texto. agora só falta liberarem o cartão pra mim assinar um mês dessa porra pra ver se gosto.
Aliás existe algum tipo de limitação na quantidade de GBs que podem ser baixados por mês?
E a parte de FLAC é boa?
Eu tenho dificuldade em achar MP3, comparado com o que tem de FLAC. É um paraíso.
E o limite é o teu HD mesmo, a menos que pegues um plano de bloco, como a Blocknews.
Sempre tive preguiça de esclarescer totalmente minha mente sobre o assunto.
Mas o senhor acaba de me ajudar nesta tarefa, obrigado!
Material nacional, bacana por lá? Ou só gringa?
Boa pergunta. Praticamente NADA brasileiro. Muita coisa alemã…
Maravilha de post! Eu sempre quis entender como funcionava isso, ainda mais pq o traffic shapping capa muito meus torrents!
Mais restou algumas duvidas! Eu assinei o supernews, mais aonde diabos eu procuro as coisas? Eu instalei o Sick Beard, e configurei as series, porem tem episodio para baixar e ele não baixa sozinho!
Eu tenho usado o nzbmovieseeker.com, o nzbmatrix.com e o nzbs.org.
O Sick-Beard só vai baixar as coisas se tu configurares os indexadores nele.
Pedro,
Ótimo Post, depois que li, entendi o que é a Usenet, assinei o Supernews e uso o Sabnzbd, faz uns 15 dias. Tenho net 4mb, desde o começo tava baixando no talo e de uns 2 dias pra cá reduziu a velocidade consideravelmente!!! O que pode estar acontecendo??? Como resolvo isso??
Tu tá usando SSL? A Supernews tem mais de uma porta por serviço, não? Tente trocar a porta, pode ser a operadora.
Outra opção que tu tens é comprar um bloco na Blocknews pra ver se o problema é com a Supernews. Esses blocos são baratos e é sempre bom manter um, já que eles não expiram, pra quando tem partes faltando no teu server principal.