张亚勤总结了在GTE的收获。他说，在做研究的时候，好奇心很重要。一定要选择正确的方向，要选择跨领域的或者是新领域，不要满足于在旧领域做一些小小的改进。选择一些新领域，这是最重要的。此外，选合作伙伴时，一定要和最优秀的人一起工作。最后，所做的东西要有前瞻性，而且要对产品和产业有影响力。他说：“我在GTE研究中心学习了如何把商业和技术相结合。”
从20世纪80年代中期开始，传统彩电产业已基本上被日本人所控制。彩电技术的创造发明者美国希望在这一工业领域找到一种高清晰度的电视，而日本人似乎在这一研究方面也不甘落后，他们开发出模拟制式的高清晰度电视技术，并形成了标准，索尼和松下公司期望以此进一步控制全球市场。而美国学者一开始就直接瞄准数字化的高清晰度电视展开研究。为了达到制定全球标准、在与日本企业的竞争中取胜的目的，1993年，美国电话电报公司、通用仪器公司、荷兰菲利浦公司、麻省理工学院、汤姆逊公司、Sarnoff实验室等欧美这一领域的领先研究机构和企业形成高清晰度数字电视的大联盟，工业标准也正在制定之中。接下来就是要有人在标准下开发出技术，做出新产品，而其中最重要的核心技术就是解决图像视频信号的压缩处理和高速传输，其中有很大部分工作属于压缩、编码、处理及传输。
1994年，张亚勤离开GTE，受聘于Sarnoff公司，任职于该公司的多媒体实验室。Sarnoff发明了电视机、摄影机、FHS、NCR、LCD等家电，在美国被称为是“世界电子技术的摇篮”，特别是在数字视频方面，是全球做得最好的。
张亚勤当时参与了Sarnoff最重要的一个关于高清晰电视的项目，并领导了美国部分高清晰电视系统的集成和标准的制定，比如现在很有名的ATAC标准。
他担任的职务从项目经理到部门主管，直到1997年成为多媒体实验室主任，这是中国人在这个研究领域获得的最高职位。在此期间，Sarnoff多媒体实验室创造了数百项新技术，申请了无数专利，而其中5项最重要的技术和专利，都是张亚勤直接创造的。
Sarnoff实验室开创了研究自立的先例，采取三种商业模式：其一，接受委托从事研究工作；其二，自己研究，开发出技术，通过技术转让和技术授权获得商业收益；其三，对于一些看中的技术，单独投资或与风险投资公司一道投资，直接创办企业获利。
Sarnoff多媒体实验室多年来积累了大量的先进技术，张亚勤开始与世界一流的大企业打交道，讨论商业合作。先后一共有包括休斯在内的20多家大公司与其合作并转让技术。同时，张亚勤还利用自己开发的技术创办了两家公司，只待产品成熟，上市运作。
1997年Sarnoff被《财富》杂志评为美国四大杰出研究中心之一。在Sarnoff发展壮大的历程中，张亚勤一直扮演着建设性的角色。
这一年，他个人也获得了巨大的认同——张亚勤荣膺美国电气电子工程协会院士，这是电气和电子学研究领域全世界最高的学术荣誉，他成为该协会100年来获此荣誉的最年轻的科学家——31岁。
他在美国继续创造着东方人的荣誉。1999年1月，美国电子工程师荣誉学会将1998年唯一的“杰出青年电子工程师奖”授予了张亚勤，他是获得此奖的第一位中国人。时任美国总统的克林顿向他发来贺信：
“祝贺您获得1998年杰出青年电子工程师奖。您领会了勤奋和承诺的真正意义。对于我们来说，任何成功都离不开辛勤的工作，我对您所取得的突出成绩表示衷心的祝贺。您的成就无疑也是对大家的一种巨大鼓舞。”
在这个领域，张亚勤一共发表了200多篇学术论文，其中有40篇论文在世界最权威的IEEE Transactions杂志上发表，这个杂志审稿周期是两年，能在这里发表论文，代表着一种认可。他还先后出版了11本专著，在视频压缩、交互式电视、多媒体通讯、桌上可视电话等方面取得了几十项专利，其中有些专利已形成产品。他的关于“小波图像及纹理编码”和“全球动态判断和补偿计划”等50多项技术对国际标准的建立作出了贡献。
“我到现在为止可能在这家权威杂志上共发表了100篇文章，其中有50篇是我独立做的，另外50篇是和别人合作的。我自己做的文章，没有一篇曾经遭到拒绝。”
作为全球知名的杰出科学家，皮克·霍兹教授多次在公众场合毫不掩饰地夸耀张亚勤：“和张相处一个星期，就会感到他非常特殊，他是世界的一份财富。”
结盟微软，如同对一位朋友的承诺
在美国已经待了十几年的张亚勤，似乎已经习惯了那里的生活方式，习惯了每天对着大西洋彼岸的空气开始自己一天的新生活。1998年10月的一天，一个越洋电话让他和微软结缘，并将由此创造自己职业生涯的高峰期。
微软向张亚勤抛出橄榄枝已经不是第一次了。1994年他从GTE准备换工作时，就拿到了三个公司的Offer，这三家公司都大名鼎鼎——微软、IBM和Sarnoff。那时微软刚刚成立了自己的多媒体部分，但是还处于起步阶段，权衡之后，张亚勤选择了Sarnoff。
张亚勤不是那种两耳不闻窗外事的人，在Sarnoff的这几年，他也看到了微软的迅速发展。而此时的张亚勤，也已经完成了自己的使命，Sarnoff多媒体实验室已成型。
越洋电话的那端是在业内名气颇响的李开复博士。1998年，比尔·盖茨决定在中国建立一个“全世界最高水准的研究机构”，李开复接受他的邀请，到中国开始招集人才，筹建微软中国研究院。
这其实是张亚勤第一次和李开复直接接触。电话里李开复介绍了微软要在中国建立一个基础研究院的意愿，并表示希望张亚勤回来一起创业。
张亚勤在美国的这么多年，回来过几次，但停留的时间都不长。但在张亚勤的心中，自始至终有着十分浓郁的祖国情结。在Sarnoff工作时，张亚勤接待了大量来自中国的学者和企业界人士，对于他们的要求，他总是尽力满足，并且给予热情的关照。在他的实验室，他接待最多的也是华人学者。
因此他非常希望在美国的工作交接妥当后回国发展，李开复的这个电话被他认为“可能是到时机了”。
1998年的中国进入了改革开放的第20个年头。上一个年份，金融风暴在中国的周边国家一一发作，景象之惨烈让人胆战心惊，中国虽然成功躲避开了，但也多少受到了影响。随后，中国共产党第十五次全国代表大会在北京召开，江泽民在报告中对传统的公有制理论做出重大修正，提出了“混合所有制”的概念，认为非公有制经济已经不仅仅是“补充”，而且是“重要的组成部分”，国有经济的比重减少一些，不会影响社会主义性质。十五大的召开被誉为是中国第三次“思想解放”开始的标志。全国范围内又掀起了改革的浪潮。
这一年的中国，朱镕基新任国务院总理，他承诺在自己的任期内完成三件事，一是力保人民币不贬值，二是激活经济，启动内需，三是用三年时间让国有企业摆脱困境。全世界都在见证着中国的发展。
1998年11月，张亚勤回到了阔别已久的祖国。回来后，他和李开复见面了，两人谈得十分投机。张亚勤说：“我觉得开复不仅仅是在建立一个机构，其实是在实现一个理想，希望在中国第一次建立一个世界一流的计算机研究方面的机构。另外我对微软也是十分敬佩，我自己也是微软技术、PC产品的使用者，或者说是微软的FANS。但是其中最重要的因素，是中国，是研究。”
随后李开复陪同张亚勤看了北京的很多地方，那些标志性的建筑在他的心中依旧是如此熟悉，长城、故宫……然而在这片土地上，已经发生了翻天覆地的变化。张亚勤算了算，这一年正是中国改革开放20年。他感受到了中国的发展潜力。
他和李开复来到当时希格玛大厦的五楼，那里还在装修。李开复说，如果你接受的话，这里就将是你的办公室。张亚勤欣然接受：“我回来！”
从此，张亚勤正式加盟微软。不久，微软中国研究院成立，李开复任院长，张亚勤担任副院长兼首席科学家。他和李开复一起把研究院从无到有，建成了世界级一流的研究机构，在产品方面、学术界都做出了优异的成绩，并且培养了一批优秀的人才。
那时适逢回国的第一个高潮，很多人回国是为了创业，比如张朝阳以及后来回国的李彦宏组建互联网公司。所以当张亚勤听李开复说回来做研究，觉得挺新鲜的，和别人回来的目的不太一样。
但张亚勤感觉，当时不但是在做一个实验室，在中国还没有一个一流的研究院，他们其实也是在创业，在创造一个历史。
当时很多人都不了解张亚勤做出的选择，这在美国也引起了一定的轰动。张亚勤如此解释自己的选择：“微软是一个相当成功的公司，我也很想回到中国，而且我还想继续我的研究。因此，微软中国研究院是一个近乎完美的选择，可以为我提供一个平台。”
张亚勤说，自己在人生重要关头的抉择，往往是根据自己的感觉，有时是根据自己的感情，而很少出于一种特别逻辑的思维或者特别系统的考虑。做出加盟微软的决定，他没有考虑过自己的待遇如何，中国的空气如何，自己将有什么得失。这一决定就像是对一位朋友的承诺，要闯出一番事业。
刚回国的他，面对的是正在展开新画面的中国，然而，这毕竟是一个新事业，前方必然面临着许多不可知的挑战。尽管改革开放已经进入了第20个年头，对外交流也已经渐成气候，但当时中国的研究水平和世界还有较大差距。张亚勤看到了其中存在的一些不确定性，他说：“当时完全是一张白纸，你可以随意去勾画。”
张亚勤是个天生喜欢冒险，喜欢挑战的人，这样的生活才有乐趣。他说：“这样的生活，常常期待着能够出现一些惊喜。就像通讯里面的一个概念叫做熵，熵越大，随机性越大；不确定性越大，也就越有意思。如果事先什么都知道，对自己的10年、20年看得很清楚，能够看到自己退休前、退休后的状态，熵为零，那样的状态太没意思了。”
成立研究院的第一个最大的挑战就是如何找到一流的人才。研究所的领军人物已经确定了，李开复领导语音识别方向，张亚勤负责多媒体方向。
1998年新年前夕，张亚勤在中国工作一段时间之后，回美国探亲。他在中国的生活和工作，让许多杰出的中国海外学者十分感兴趣。张亚勤向他们详细地讲述了到中国以后的情况及自己的感受。有相当一大批杰出的中国海外学者在他的影响下接受了微软中国研究院的聘请，回国工作。他们中的几位与张亚勤一起，最终在多媒体领域建立起了实力很强的团队——沈向洋，全球最杰出的图像处理学家之一；张宏江，基于内容的视频检索领域的先驱；李世鹏，多功能图像/视频处理和压缩领域年轻有为的学者；朱文武，来自美国贝尔实验室的网络及通信领域的专家，以及当年清华大学的“神奇小子”李劲。这个团队享有很高的学术声誉和水平，甚至堪称世界一流。
研究院用了一年的时间扩建自己的团队，定义研究方向（同时和微软总部尤其是产品部门建立了良好的关系），并和国内的学术界建立了很好的合作关系。研究所的自身定位是国内学术界的一部分，与中国科技大学、清华大学、浙江大学、哈尔滨工业大学等都成立了联合实验室，与国内学术界资源共享、共同成长。他们也开始在全国高校找寻博士人才，第一年，他们总共带回了10个人。
微软研究院开始以惊人的速度发展壮大。
2000年夏天，微软内部推出了一个向比尔·盖茨汇报的项目。这一机制希望把公司里面最前沿、最优秀的项目向比尔·盖茨介绍，听取他的意见和回馈。这一机制的推出一直是比尔·盖茨30年来想做的事，可以申报的包括产品或研究成果。汇报的结果将直接对某项产品开发、研究方向以及公司发展战略产生重要影响。
