当前位置:首页 >>
返回首页 
BioTechniques:应对大数据的挑战
发布时间:2016-03-25]  阅读次数:452次

来源:分析测试百科网

  如今的实验室硬件,无论是显微镜、质谱仪,还是DNA测序仪,都产生了GB级的数据。然而,它们仍缺乏处理数据和提取信息所需的软件。为了填补这一空缺,研究人员正在积极开发计算工具。在这一期的《BioTechniques》上,Jeffrey Perkel博士就来谈谈大数据。

  大数据有多大?

  Adina Howe是密歇根州立大学的一名博士后。她试图通过宏基因组学数据来组装细菌基因组,不过数据太大了,接近4000亿个碱基,组装软件跟不上。通常情况下,新一代测序的原始数据是30 GB/样品,比Howe的数据低一个数量级。然而,即便如此,计算新手也会遇到不小的麻烦。“他们不能打开微软的任何产品,因为软件可能会崩溃,”Howe指出。

  好在,Howe曾经的同事,加州大学戴维斯分校的副教授C. Titus Brown提出了解决方案。他实验室的旗舰软件是“khmer”,这个工具能将序列缩减成一系列任意长度的“单词”,即k-mers,简化了基因组组装的任务。

  为了解决Howe的宏基因组学问题,Brown的团队实施了一种概率数据结构,称为“Bloom filter”,将存储所需的空间减少了40倍。通过这种办法,Howe从宏基因组学数据集中产生了近550万个蛋白编码基因的组装。

  成像的挑战

  Pavel Tomancak是马克斯普朗克研究所的一名研究组长,他也面临同样的问题。他通过激光片层扫描显微镜(light-sheet microscopy)记录整个果蝇胚胎,研究胚胎发育过程中的基因表达,数据量达到几TB。现有的软件根本跟不上。

  Fiji是一个很受欢迎的开源图像处理软件,它不仅包括核心的ImageJ软件,还包括一些插件等。Tomancak是Fiji项目的核心开发者之一。为了解决大数据问题,他已经开发了一系列新的插件。BigDataViewer让用户能够在远程查看大型数据集,而不用下载数据。“你根本不可能在笔记本电脑上存储10 TB的图像数据,”他说。

  Fiji的开发者还定期举办“编程马拉松”活动,合作改善软件。在2012年的编程马拉松活动之后,开发者推出了一个名为imgLib的插件,允许开发人员与图像数据有效互动,而不论其数据类型、大小或位置如何。

  你也来试试?

  如此看来,掌握一点编程技术,的确很有用哦。现在网络上有很多资源可以学习,包括在线教程和手册、论坛及在线课程。文中提到的Software Carpentry课程需要2天时间,包括3个主要模块,覆盖UNIX命令行;R、Python或MATLAB的编程;以及版本控制。当然,短短2天之后,你并不会成为专家,但你了解计算机能实现什么,也有信心去寻找更多的信息。

  Howe指出,数据分析也是一种实验室方法,与其他无异。“我在实验室学到的第一件事是如何在无菌环境下培养细菌,我自己不会,必须有人教我。”计算也一样。“每个人都需要有个人去培训他。然后,你必须自己去做,去犯错误,这只是过程中的一部分。”


【收藏此页】【大 中 小】【查看所有】【返回顶部】【打印本页】【关闭窗口】

> more 
新版药典正式实施,岛津方案精准护航
“开挂”有方,维生素ADE检测竟然可以如此简单!
颗粒分析软件发布,赋能异物与微塑料精准解析
NEW!岛津显微镜颗粒分析软件
胶原蛋白质量新标尺:羟脯氨酸自动化检测方案
限有终,恒无止丨岛津发布新款三重四极杆液质联用仪LCMS-8065XE
岛津积极参加2025中国质谱学术大会
岛津-大连化学物理研究所 合作成果:拟靶向代谢组学方法包,让广泛覆盖与
解码千年药香奥秘:从气味分析揭开麝香抗脑卒中关键密码
岛津-大连化学物理研究所 合作成果:拟靶向代谢组学方法包,让广泛覆盖与
SCD检测器内部陶瓷加热管更换指南
电子探针丨带您走进光纤的微观世界 - 光子晶体光纤
骨骼的\"化学指纹\"解码术:红外-拉曼耦合技术助力大鼠股骨截面的非染色分
岛津光学元件隆重亮相2025 深圳CIOE光博会:前沿产品引领光学技术
> more 
赛默飞世尔科技(中国)有限公司
HORIBA 中国
岛津企业管理(中国)有限公司
珀金埃尔默企业管理(上海)有限公司
雷尼绍(上海)贸易有限公司
CopyRight @ sinospectroscopy,All rights reserved.2010   京ICP备07018254号-16