杨文龙的博客 » 人工智能 - 个人技术笔记 - 热爱创新发明，专注机器学习、算法、深度学习、自然语言处理及人工智能

Bloom

发布时间：2023-05-14 栏目：AI应用领域, LLM, 人工智能评论：0 Comments

bigscience/bloom · Hugging Face

MosaicML

发布时间：2023-05-08 栏目：LLM, 人工智能评论：0 Comments

Introducing MPT: a new family of open-source commercially usable LLMs from MosaicML. Trained on 1T tokens of text+code, MPT models match and – in many ways – surpass LLaMa-7B. This release includes four models: MPT-...

针对最近LLM观点的几点个人看法

发布时间：2023-05-04 栏目：AI应用领域, LLM, 人工智能, 感悟评论：0 Comments

针对最近一些思想的几点个人看法（仅代表个人观点）： – 涌现只是现象，不是本质原因也不是科学解释，个人不赞同无脑的把未知的东西都简单归结为涌现 – AI带来的生产力的大幅提升，其冲击力仍需消化，可能极大的改变我们未来几十年...

Learning Agile Soccer Skills for a Bipedal Robot with Deep Reinforcement Learning

发布时间：2023-05-04 栏目：AI应用领域, 人工智能, 机器人评论：0 Comments

OP3 Soccer (google.com)

A brief history of LLaMA models

发布时间：2023-05-04 栏目：LLM, 人工智能, 软件、框架及系统评论：0 Comments

A brief history of LLaMA models – AGI Sphere (agi-sphere.com)

芯片设计流程

发布时间：2023-04-05 栏目：机器人, 芯片设计评论：0 Comments

参考：https://blog.csdn.net/qq_36045093/article/details/124659801 EDA是电子设计自动化（Electronics Design Automation）的缩写，在20世纪60年代中期从计算机辅助设计（CAD）、计算机辅助制造（CAM）、计算机辅助测试（CAT）和计算...

目前自动驾驶中仍然待解决的一些问题

发布时间：2023-03-22 栏目：ADAS, 深度学习评论：0 Comments

上个周末试乘了滴滴的无人驾驶出租车，感觉确实离落地很近了，一时间自己也说不上来有什么具体的问题，一切似乎很完美了，但是真的如此吗？我也不确定，不妨列举一些目前看下来，个人觉得仍然有些风险的点：确定的风险点： – negotiatin...

Textual Inversion vs. Dreambooth

发布时间：2023-03-01 栏目：AI应用领域, 人工智能, 元宇宙, 图像处理, 机器视觉评论：0 Comments

Textual Inversion 从 SD 已知的内容中挖掘给定的输入。Dreambooth 将所需内容插入到输出中。那么在实践中有什么区别呢？ Textual Inversion 不会在系统中插入“新数据”，它只提供更好的向导以便找到所需内容。Dreambooth 需要插入且只插入所需的...

AI videos

发布时间：2023-02-22 栏目：AI应用领域, 人工智能, 元宇宙, 图像处理, 机器视觉, 深度学习评论：0 Comments

Gen-1 by Runway (runwayml.com)

关于ChatGPT的一点初步思考

发布时间：2023-01-29 栏目：AI应用领域, VideoConference, 人工智能, 元宇宙, 智能问答, 机器人, 深度学习, 自然语言处理评论：0 Comments

深度学习应该是有很多瓶颈的，那么为啥ChatGPT可以是实现类似于质的飞跃？真的只是因为它有比较大的量和做了表面的优化（强化学习）这个吗？个人初步感觉，words可能比图像输入有更强的condition和context信息，特别是如果融合前后3000...

ChatGPT Related Papers

发布时间：2023-01-27 栏目：AI应用领域, 人工智能, 元宇宙, 智能问答, 深度学习评论：0 Comments

InstructGPT: [2203.02155] Training language models to follow instructions with human feedback (arxiv.org) reinforcement learning from human feedback (RLHF)

随机微分方程 stochastic differential equation (SDE)

发布时间：2023-01-25 栏目：AI应用领域, 人工智能, 脉冲神经网络评论：0 Comments

常微分方程一般来说其解是一条确定的曲线，而随机微分方程(SDE)，其结果是一个随机的过程，最终得到是的多种样本轨道。 Stochastic differential equation – Wikipedia Euler–Maruyama method – Wikipedia

Language Drift

发布时间：2023-01-23 栏目：AI应用领域, 智能问答, 机器翻译, 深度学习, 自然语言处理评论：0 Comments

The phenomenon of language drift has been an observed problem in the language model literature, language model that is pre-trained on a large text corpus and later fine-tuned for a specific task progressively loses syntactic an...

小样本训练过拟合的一些处理方法

发布时间：2023-01-23 栏目：人工智能, 机器视觉, 深度学习评论：0 Comments

正则化选择一些单独的层或者部分进行调优训练

一些较新的参考论文

发布时间：2023-01-23 栏目：AI应用领域, VideoConference, 人工智能, 元宇宙, 智能问答评论：0 Comments

Stable Diffusion One-Shot Free-View Neural Talking-Head Synthesis for Video Conferencing Hong_Depth-Aware_Generative_Adversarial_CVPR_2022_supplemental DDIM Dream Booth

教会AI进行数学推理

发布时间：2023-01-16 栏目：AI应用领域, 人工智能, 元宇宙评论：0 Comments

Teaching AI advanced mathematical reasoning (facebook.com)

相册集

关于自己

杨文龙，微软Principal Engineering Manager, 曾在各家公司担任影像技术资深总监、数据科学团队资深经理、ADAS算法总监、资深深度学习工程师等职位，热爱创新发明，专注于人工智能、深度学习、图像处理、机器学习、算法、自然语言处理及软件等领域，目前发明有国际专利19篇，中国专利28篇。

联系我

个人技术笔记

290125097@qq.com

2015 in Shanghai