silico.biotoul.fr
 

M1 BBS Graphes TP Librairies R

From silico.biotoul.fr

(Difference between revisions)
Jump to: navigation, search
m (Arbres)
m (Taxonomie du NCBI)
Line 206: Line 206:
Récupérer le fichier <tt>taxdump.tar.gz</tt> (copie [[silico:enseignement/m1/graph/taxdump.tar.gz|ici]] du 2019-12-03 contenant seulement les fichiers nécessaires). '''Combien de sommets a l'arbre ?'''
Récupérer le fichier <tt>taxdump.tar.gz</tt> (copie [[silico:enseignement/m1/graph/taxdump.tar.gz|ici]] du 2019-12-03 contenant seulement les fichiers nécessaires). '''Combien de sommets a l'arbre ?'''
-
 
+
'''Utiliser les commandes shell pour se débarasser des espaces et remplacer les | par des tabulations dans le fichier <tt>nodes.dmp</tt>'''.
=== ggtree ===
=== ggtree ===

Revision as of 09:18, 3 December 2019

Contents

Arbres

Il existe plusieurs librairies disponibles : ape, genoPlotR, ggtree, ... Celle choisie pour ce TP est ggtree.


Taxonomie du NCBI

Nous allons utiliser la taxonomy du NCBI. Pour cela, dans l'onglet Downloads on peut aller sur le FTP pour télécharger la banque. Le fichier README (taxdump_readme.txt) contient les information suivantes (avec en gras, celles qui vont nous intéresser tout particulièrement) :

This directory contains the following NCBI Taxonomy database dump files:

  taxdmp.zip
  taxdump.tar.Z
  taxdump.tar.gz

All these files containes exactly the same information and are arranged so
for the convenience of unpacking them on various operating environments.
In addition there are files:

  taxdmp.zip.md5
  taxdump.tar.Z.md5
  taxdump.tar.gz.md5

which contain MD5 sums for the corresponding archive files. These files
might be used to check correctness of the download of corresponding 
archive file.

taxdmp.zip
----------

Is intended for zip-capable utilities such as pkunzip, unzip, and WinZip.
These utilities are widely available in almost all operating environments.
To unpack it command-line pkunzip and unzip:

       pkunzip taxdmp.zip
or
       unzip taxdmp.zip

Note: pkunzip and/or unzip executables must be in the executable search path
and taxdmp.zip must be in the current directory. Files will be unzipped into
current directory. For desired dump files placement and more please refer to
the manual and/or option descriptions of pkunzip and unzip utilities.

taxdump.tar.Z
-------------

This file is to be unpacked by uncompress utility and subsequent tar 
archiver. These utilities are usually used in UNIX-like environment. 
Unpacking instructions follows:

          uncompress -c taxdump.tar.Z | tar xf - 

taxdump.tar.gz
--------------

This file is to be unpacked by GNU unzip utility and subsequent tar 
archiver. These utilities are usually used in UNIX-like environment. 
Unpacking instructions follows:

          gunzip -c taxdump.tar.gz | tar xf - 

The content of the archive
--------------------------

It may look like this:

citations.dmp
delnodes.dmp
division.dmp
gencode.dmp
merged.dmp
names.dmp
nodes.dmp
readme.txt

The readme.txt file gives a brief description of *.dmp files. These files
contain taxonomic information and are briefly described below. Each of the
files store one record in the single line that are delimited by "\t|\n"
(tab, vertical bar, and newline) characters. Each record consists of one 
or more fields delimited by "\t|\t" (tab, vertical bar, and tab) characters.
The brief description of field position and meaning for each file follows.

nodes.dmp
---------

This file represents taxonomy nodes. The description for each node includes 
the following fields:

	tax_id					-- node id in GenBank taxonomy database
	parent tax_id				-- parent node id in GenBank taxonomy database
	rank					-- rank of this node (superkingdom, kingdom, ...) 
	embl code				-- locus-name prefix; not unique
	division id				-- see division.dmp file
	inherited div flag  (1 or 0)		-- 1 if node inherits division from parent
	genetic code id				-- see gencode.dmp file
	inherited GC  flag  (1 or 0)		-- 1 if node inherits genetic code from parent
	mitochondrial genetic code id		-- see gencode.dmp file
	inherited MGC flag  (1 or 0)		-- 1 if node inherits mitochondrial gencode from parent
	GenBank hidden flag (1 or 0)            -- 1 if name is suppressed in GenBank entry lineage
	hidden subtree root flag (1 or 0)       -- 1 if this subtree has no sequence data yet
	comments				-- free-text comments and citations
 
 names.dmp
 ---------
 Taxonomy names file has these fields:
 
	tax_id					-- the id of node associated with this name
	name_txt				-- name itself
	unique name				-- the unique variant of this name if name not unique
	name class				-- (synonym, common name, ...)  

division.dmp
------------
Divisions file has these fields:
	division id				-- taxonomy database division id
	division cde				-- GenBank division code (three characters)
	division name				-- e.g. BCT, PLN, VRT, MAM, PRI...
	comments
 
gencode.dmp
-----------
Genetic codes file:

	genetic code id				-- GenBank genetic code id
	abbreviation				-- genetic code name abbreviation
	name					-- genetic code name
	cde					-- translation table for this genetic code
	starts					-- start codons for this genetic code
 
delnodes.dmp
------------
Deleted nodes (nodes that existed but were deleted) file field:

 	tax_id					-- deleted node id
 
merged.dmp
----------
Merged nodes file fields:

	old_tax_id                              -- id of nodes which has been merged
	new_tax_id                              -- id of nodes which is result of merging

citations.dmp
-------------
Citations file fields:

	cit_id					-- the unique id of citation
	cit_key					-- citation key
       medline_id                              -- unique id in MedLine database (0 if not in MedLine)
	pubmed_id				-- unique id in PubMed database (0 if not in PubMed)
	url					-- URL associated with citation
	text					-- any text (usually article name and authors)
						-- The following characters are escaped in this text by a backslash:
						-- newline (appear as "\n"),
						-- tab character ("\t"),
						-- double quotes ('\"'),
						-- backslash character ("\\").
	taxid_list				-- list of node ids separated by a single space

Extrait de nodes.dmp (rappel des colonnes : tax_id, parent tax_id, rank, ...) :

1       |       1       |       no rank |               |       8       |       0       |       1       |       0       |       0       |       0       |       0       |       0       |               |
2       |       131567  |       superkingdom    |               |       0       |       0       |       11      |       0       |       0       |       0       |       0       |       0       |               |
6       |       335928  |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
7       |       6       |       species |       AC      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
9       |       32199   |       species |       BA      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
10      |       1706371 |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
11      |       1707    |       species |       CG      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
13      |       203488  |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
14      |       13      |       species |       DT      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
16      |       32011   |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
17      |       16      |       species |       MM      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
18      |       213421  |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
19      |       18      |       species |       PC      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
20      |       76892   |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
21      |       20      |       species |       PI      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
22      |       267890  |       genus   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |
23      |       22      |       species |       SC      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
24      |       22      |       species |       SP      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
25      |       22      |       species |       SH      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
27      |       49928   |       species |       HE      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
28      |       49928   |       species |       HE      |       0       |       1       |       11      |       1       |       0       |       1       |       1       |       0       |               |
29      |       28221   |       order   |               |       0       |       1       |       11      |       1       |       0       |       1       |       0       |       0       |               |

Ce fichier nous donne donc la structure de l'arbre taxonomique avec les couples tax_id et parent tax_id.

Extrait de names.dmp (rappel des colonnes : tax_id, name_txt, unique name, name class) :

1       |       root    |               |       scientific name |
2       |       Bacteria        |       Bacteria <bacteria>     |       scientific name |
2       |       bacteria        |               |       blast name      |
2       |       eubacteria      |               |       genbank common name     |
2       |       Monera  |       Monera <bacteria>       |       in-part |
2       |       Procaryotae     |       Procaryotae <bacteria>  |       in-part |
2       |       Prokaryotae     |       Prokaryotae <bacteria>  |       in-part |
2       |       Prokaryota      |       Prokaryota <bacteria>   |       in-part |
2       |       prokaryote      |       prokaryote <bacteria>   |       in-part |
2       |       prokaryotes     |       prokaryotes <bacteria>  |       in-part |
6       |       Azorhizobium Dreyfus et al. 1988 emend. Lang et al. 2013        |               |       authority       |
6       |       Azorhizobium    |               |       scientific name |
7       |       ATCC 43989      |       ATCC 43989 <type strain>        |       type material   |

Ce fichier correspond donc aux attributs des sommets de l'arbre avec notamment le nom scientifique d'un taxon.

Récupérer le fichier taxdump.tar.gz (copie ici du 2019-12-03 contenant seulement les fichiers nécessaires). Combien de sommets a l'arbre ?

Utiliser les commandes shell pour se débarasser des espaces et remplacer les | par des tabulations dans le fichier nodes.dmp.

ggtree

ggtree est une librairie R/Bioconductor pour la visualisation et l'annotation d'arbres phylogénétiques. Elle est basée sur ggplot2, une librairie pour faire des graphiques plus élaborés qu'avec la fonction plot de R, qu'il vous est conseillé d'expérimenter par vous-même.

Toy example. Télécharger au format SVG ou Newick.

Au format Newick :

((B:0.2,J:0.4,(C:0.2,D:0.4,H:0.2,I:0.4)E:0.2)F:0.4,(K:0.2,L:0.4)G:0.2)A:0.2;

Chargement de l'arbre

t = read.tree('http://silico.biotoul.fr/site/images/f/f0/Tree_toy_example.nw')
t

Premier plot avec les paramètres par défaut

ggtree(t)

N'affiche que l'arbre, sans les étiquettes ni autre.

ggtree(t)+ geom_tiplab(size=3)

Et les étiquettes des noeuds internes :

nodelabels = c(t$tip.label, t$node.label)
ggtree(t)+ geom_tiplab(size=3) + geom_text2(aes(subset=!isTip, label=nodelabels), hjust=-.5, size=3)

Remarque : Il doit bien y avoir une méthode plus indiquée mais je ne l'ai pas trouvée en si peu de temps.

Affichage sans prendre en compte les longueurs de branche (cladogramme)

ggtree(t, branch.length="none")

Différents algorithmes de dessin

ggtree(t) + ggtitle("default: rectangular")
ggtree(t, layout="slanted") + ggtitle("slanted")
ggtree(t, layout="circular") + ggtitle("circular")

Avec ou sans racine

ggtree(t, layout="unrooted") + ggtitle("unrooted layout")

Avec l'échelle pour les longueurs de branche

ggtree(t) + geom_treescale()

La même chose avec une thème différent et en stockant le plot dans une variable

p = ggtree(t) + theme_tree2() + ggtitle("rectangular tree with branch lengths and scale")
p
p + geom_tiplab(size=3, color="orange")

Ajout d'annotations

Pour cette partie, allez sur https://itol.embl.de/itol.cgi pour télécharger l'arbre au format Newick.

t = read.tree('iTOL.export.newick.txt')
ggtree(t, layout="circular") + ggtitle("iTOL") + geom_tiplab(aes(angle=angle))+ geom_treescale()

annotations :

t$tip.label[1:10]
t$node.label[1:10]

Recherche des n° de sommets correspondants aux ancêtres des bactéries, eucaryotes, et archées :

all=c(t$tip.label, t$node.label)
which(all=='Bacteria')
bacteria = which(all=='Bacteria')[1]
which(all=='Eukaryota')
eukaryota = which(all=='Eukaryota')[1]
which(all=='Archaea')
archaea = which(all=='Archaea')[1]

plot avec l'annotation

ggtree(t, layout="circular") + 
  ggtitle("iTOL") + 
  geom_tiplab(aes(angle=angle))  + 
  geom_hilight(node=bacteria, fill="steelblue", alpha=.1) + 
  geom_hilight(node=eukaryota, fill="pink", alpha=.1) + 
  geom_hilight(node=archaea, fill="green", alpha=.1)

Vous devriez obtenir la figure suivante :

Pour aller plus loin : https://yulab-smu.github.io/treedata-book/

Annexe

Installation de la librairie (nécessaire le 12/12/2017 et ne fonctionne que sous windows cette année)

source("https://bioconductor.org/biocLite.R")
biocLite("ggtree")
</pre>
 
== Graphes ==
 
=== igraph ===
 
La librairie [http://igraph.sourceforge.net iGraph] met à disposition tout un ensemble de fonctions pour le traitement et la visualisation de graphes. Nous allons utiliser aujourd'hui son interfaçage avec R. Pour la charger :
<source lang='rsplus'>
library(igraph)

Pour charger un graphe (différents format possibles : pajek, newick, ...) :

g = read.graph("http://silico.biotoul.fr/site/images/9/9f/Cleandb_Luca_1_S_1_1_65_Iso_Tr_1-CC1.tgr", directed=FALSE)

Consulter l'aide de la fonction (?read.graph) pour voir les autres formats supportés.


Pour l'afficher, il faut au préalable en effectuer le dessin (layout) :

# soit en une ligne en passant la fonction de dessin :
plot(g, layout=layout.fruchterman.reingold)
 
# soit en sauvegardant ce layout dans une variable :
g.FR = layout.fruchterman.reingold(g)
plot(g, layout=g.FR, vertex.size=3, vertex.label=NA)

Consulter l'aide des fonction plot.igraph et layout.fructhterman.reingold pour voir les options ainsi que les autres algorithmes de dessin disponibles.

Vous trouverez la documentation de la librairie sur le site dédié. Pour celle de l'interface R en ligne : http://igraph.org/r/

  • Pour obtenir la liste des sommets : V(g)
  • la liste des arêtes : E(g)


  • Quel est l'ordre du graphe ? Combien a-t-il d'arêtes ?


On peut assigner des étiquettes aux sommets : V(g)$name = vector_of_labels

Charger les étiquettes des sommets :

V(g)$name=as.character(read.table("http://silico.biotoul.fr/site/images/6/61/Cleandb_Luca_1_S_1_1_65_Iso_Tr_1-CC1.cod")[,2])
plot(g, layout=g.FR, vertex.size=3, vertex.label=V(g)$name)

Les paramètres de la fonction plot de igraph sont décrits dans la documentation.

Il est possible de stocker de l'information sur le graphe, les sommets et/ou les arêtes avec les fonctions dédiées :

vertex_attr(g, name="name")
vertex_attr(g, name="name", index=10)


  • Quel est le diamètre du graphe ?
  • Lister les points d'articulation (articulation.points)
  • Longueur moyenne des plus courts chemins (sans valuation) (average.path.length)
  • Afficher sa représentation canonique (canonical.permutation) et la matrice d'adjacence correspondante
  • Lister les cliques maximales (maximal.cliques)
  • Lister les composantes connexes (clusters) avant et après suppression du point d'articulation
  • Obtenir le line graph (line.graph)
  • Arbre couvrant de poids minimum (minimum.spanning.tree)

Fichier dressing au format ncol : dressing.ncol, Bellman-Ford.ncol et celui pour Floyd-Warshall Floyd-Warshall.ncol

dressing
Graphe utilisé pour l'algorithme Bellman-Ford
Graphe utilisé pour l'algorithme Floyd-Warshall
  • Effectuer le tri topologique du graphe dressing.
  • Parcours en largeur et en profondeur, et Bellman-Ford (graph.bfs, graph.dfs, distances)
  • la betweenness d'un sommet ou d'une arête est le nombre de plus courts chemins passant par le sommet ou l'arête. Utiliser les fonctions betweenness et edge.betweenness pour calculer cette valeur et l'ajouter au dessin.

Pour la centralité des sommets : Pour la centralité des arêtes :


Partitionnement de graphe

Pour partitionner le graphe en communautés, différentes méthodes sont disponibles. Vous allez utilisez la betweenness des arêtes pour effectuer le partitionnement du graphe. Cette méthode sélectionne les arêtes dont la betweenness est la plus importantes afin de former des communautés (clusters).

# community detection with edge-betweenness
com = edge.betweenness.community(g)
par(cex=.5)
plot(as.dendrogram(com))

Affichage du meilleur partitionnement

plot(com, g, vertex.size=6, vertex.label=NA)

décomposition en recherchant le partitionnement ayant meilleure modularité

com$best_step=0
com$best_modularity = -Inf
for (i in 1:nrow(com$merges)) {
  #igraph old version: ctm = community.to.membership(g, com$merges, steps=i)
  #igraph old version: mod = modularity(g, ctm$membership+1) # faire ctm$membership+1 si crash il y a (dépend de la version igraph, membership commence à 1 ou 0)
  ctm = cut_at(com, steps=i)
  mod = modularity(g, ctm)
  print(paste("step: ",i,", modularity:",mod))
  if (mod>com$best_modularity) {
    com$best_step = i
    com$best_modularity = mod
    #igraph old version: com$membership=ctm$membership
    com$membership=ctm
  }
}
com$best_step ; com$best_modularity

Autre : marquage de certains sommets (au hasard la 1ère communauté)

gr1 = groups(com)[1]
plot(g, mark.groups=gr1, vertex.label=NA)

librairie visNetwork

library(visNetwork)


conversion du graphe précédent

nodes = data.frame(id = as.vector(V(g)$name))
links = as.data.frame(get.edgelist(g))
colnames(links) = c('from','to')

paramètres pour l'affichage

links$smooth = F
nodes$color.background <- c("red", "green", "blue", "orange", "yellow")[membership(com)]

Affichage interactif

visNetwork(nodes, links, width="1024",height="768", main="graph with visNetwork")


Pour aller plus loin : http://kateto.net/network-visualization