一次订单号重复引起的事故，可把我给坑惨了！

发表于 3年以前 | 总阅读数：310 次

我们线上出了一次事故，这个事故的表象是这样的:系统出现了两个一模一样的订单号，订单的内容却不是不一样的，而且系统在按照订单号查询的时候一直抛错，也没法正常回调，而且事情发生的不止一次，所以这次系统升级一定要解决掉。

经手的同事之前也改过几次，不过效果始终不好，总会出现订单号重复的问题，所以趁着这次问题我好好的理了一下我同事写的代码。

这里简要展示下当时的代码：

/**
 * OD单号生成
 * 订单号生成规则：OD + yyMMddHHmmssSSS + 5位数(商户ID3位+随机数2位) 22位
 */
public static String getYYMMDDHHNumber(String merchId){
      StringBuffer orderNo = new StringBuffer(new SimpleDateFormat("yyMMddHHmmssSSS").format(new Date()));
      if(StringUtils.isNotBlank(merchId)){
          if(merchId.length()>3){
              orderNo.append(merchId.substring(0,3));
          }else {
              orderNo.append(merchId);
          }
      }
      int orderLength = orderNo.toString().length();
      String randomNum = getRandomByLength(20-orderLength);
      orderNo.append(randomNum);
      return orderNo.toString();
}


  /** 生成指定位数的随机数 **/
  public static String getRandomByLength(int size){
      if(size>8 || size<1){
          return "";
      }
      Random ne = new Random();
      StringBuffer endNumStr = new StringBuffer("1");
      StringBuffer staNumStr = new StringBuffer("9");
      for(int i=1;i<size;i++){
          endNumStr.append("0");
          staNumStr.append("0");
      }
      int randomNum = ne.nextInt(Integer.valueOf(staNumStr.toString()))+Integer.valueOf(endNumStr.toString());
      return String.valueOf(randomNum);
  }

可以看到，这段代码写的其实不怎么好，代码部分暂且不议，代码中使订单号不重复的主要因素点是随机数和毫秒，可是这里的随机数只有两位，在高并发环境下极容易出现重复问题。

同时毫秒这一选择也不是很好，在多核CPU多线程下，一定时间内(极小的)这个毫秒可以说是固定不变的(测试验证过)，所以这里我先以100个并发测试下这个订单号生成。

测试代码如下：

public static void main(String[] args) {
    final String merchId = "12334";
    List<String> orderNos = Collections.synchronizedList(new ArrayList<String>());
    IntStream.range(0,100).parallel().forEach(i->{
        orderNos.add(getYYMMDDHHNumber(merchId));
    });

    List<String> filterOrderNos = orderNos.stream().distinct().collect(Collectors.toList());

    System.out.println("生成订单数："+orderNos.size());
    System.out.println("过滤重复后订单数："+filterOrderNos.size());
    System.out.println("重复订单数："+(orderNos.size()-filterOrderNos.size()));
}

果然，测试的结果如下：

生成订单数：100
过滤重复后订单数：87
重复订单数：13

当时我就震惊了，一百个并发里面竟然有13个重复的！！！

我赶紧让同事先不要发版，这活儿我接了！

对这一烫手的山竽拿到手里没有一个清晰的解决方案可是不行的，我大概花了6+分钟和同事商量了下业务场景，决定做如下更改：

去掉商户ID的传入(按同事的说法,传入商户ID也是为了防止重复订单的，事实证明并没有叼用)
毫秒仅保留三位(缩减长度同时保证应用切换不存在重复的可能)
使用线程安全的计数器做数字递增(三位数最低保证并发800不重复,代码中我给了4位)
更换日期转换为java8的日期类以格式化(线程安全及代码简洁性考量)

经过以上思考后我的最终代码是：

/** 订单号生成(NEW) **/
private static final AtomicInteger SEQ = new AtomicInteger(1000);
private static final DateTimeFormatter DF_FMT_PREFIX = DateTimeFormatter.ofPattern("yyMMddHHmmssSS");
private static ZoneId ZONE_ID = ZoneId.of("Asia/Shanghai");
public static String generateOrderNo(){
    LocalDateTime dataTime = LocalDateTime.now(ZONE_ID);
    if(SEQ.intValue()>9990){
        SEQ.getAndSet(1000);
    }
    return  dataTime.format(DF_FMT_PREFIX)+SEQ.getAndIncrement();
}

当然代码写完成了可不能这么随随便便结束了，现在得走一个测试main函数看看：

public static void main(String[] args) {

    List<String> orderNos = Collections.synchronizedList(new ArrayList<String>());
    IntStream.range(0,8000).parallel().forEach(i->{
        orderNos.add(generateOrderNo());
    });

    List<String> filterOrderNos = orderNos.stream().distinct().collect(Collectors.toList());

    System.out.println("生成订单数："+orderNos.size());
    System.out.println("过滤重复后订单数："+filterOrderNos.size());
    System.out.println("重复订单数："+(orderNos.size()-filterOrderNos.size()));
}

/**
  测试结果： 
  生成订单数：8000
  过滤重复后订单数：8000
  重复订单数：0
**/

真好，一次就成功了，可以直接上线了。。。

然而，我回过头来看以上代码，虽然最大程度解决了并发单号重复的问题，不过对于我们的系统架构还是有一个潜在的隐患：如果当前应用有多个实例(集群)难道就没有重复的可能了？

鉴于此问题就必然需要一个有效的解决方案，所以这时我就思考：多个实例应用订单号如何区分开呢？

以下为我思考的大致方向：

使用UUID(在第一次生成订单号时初始化一个)
使用redis记录一个增长ID
使用数据库表维护一个增长ID
应用所在的网络IP
应用所在的端口号
使用第三方算法(雪花算法等等)
使用进程ID(某种程度下是一个可行的方案)

在此我想了下，我们的应用是跑在docker里面，而且每个docker容器内的应用端口都一样，不过网路IP不会存在重复的问题，至于进程也有存在重复的可能，对于UUID的方式之前吃过亏，远之吧，redis或DB也算是一种比较好的方式，不过独立性较差。。。

同时还有一个因素也很重要，就是所有涉及到订单号生成的应用都是在同一台宿主机(linux实体服务器)上，所以就目前的系统架构我选用了IP的方式。

以下是我的代码：

import org.apache.commons.lang3.RandomUtils;

import java.net.InetAddress;
import java.time.LocalDateTime;
import java.time.ZoneId;
import java.time.format.DateTimeFormatter;
import java.util.ArrayList;
import java.util.Collections;
import java.util.List;
import java.util.concurrent.atomic.AtomicInteger;
import java.util.stream.Collectors;
import java.util.stream.IntStream;

public class OrderGen2Test {

    /** 订单号生成 **/
    private static ZoneId ZONE_ID = ZoneId.of("Asia/Shanghai");
    private static final AtomicInteger SEQ = new AtomicInteger(1000);
    private static final DateTimeFormatter DF_FMT_PREFIX = DateTimeFormatter.ofPattern("yyMMddHHmmssSS");
    public static String generateOrderNo(){
        LocalDateTime dataTime = LocalDateTime.now(ZONE_ID);
        if(SEQ.intValue()>9990){
            SEQ.getAndSet(1000);
        }
        return  dataTime.format(DF_FMT_PREFIX)+ getLocalIpSuffix()+SEQ.getAndIncrement();
    }

    private volatile static String IP_SUFFIX = null;
    private static String getLocalIpSuffix (){
        if(null != IP_SUFFIX){
            return IP_SUFFIX;
        }
        try {
            synchronized (OrderGen2Test.class){
                if(null != IP_SUFFIX){
                    return IP_SUFFIX;
                }
                InetAddress addr = InetAddress.getLocalHost();
                //  172.17.0.4  172.17.0.199 ,
                String hostAddress = addr.getHostAddress();
                if (null != hostAddress && hostAddress.length() > 4) {
                    String ipSuffix = hostAddress.trim().split("\\.")[3];
                    if (ipSuffix.length() == 2) {
                        IP_SUFFIX = ipSuffix;
                        return IP_SUFFIX;
                    }
                    ipSuffix = "0" + ipSuffix;
                    IP_SUFFIX = ipSuffix.substring(ipSuffix.length() - 2);
                    return IP_SUFFIX;
                }
                IP_SUFFIX = RandomUtils.nextInt(10, 20) + "";
                return IP_SUFFIX;
            }
        }catch (Exception e){
            System.out.println("获取IP失败:"+e.getMessage());
            IP_SUFFIX =  RandomUtils.nextInt(10,20)+"";
            return IP_SUFFIX;
        }
    }


    public static void main(String[] args) {
        List<String> orderNos = Collections.synchronizedList(new ArrayList<String>());
        IntStream.range(0,8000).parallel().forEach(i->{
            orderNos.add(generateOrderNo());
        });

        List<String> filterOrderNos = orderNos.stream().distinct().collect(Collectors.toList());

        System.out.println("订单样例："+ orderNos.get(22));
        System.out.println("生成订单数："+orderNos.size());
        System.out.println("过滤重复后订单数："+filterOrderNos.size());
        System.out.println("重复订单数："+(orderNos.size()-filterOrderNos.size()));
    }
}

/**
  订单样例：20082115575546011022
  生成订单数：8000
  过滤重复后订单数：8000
  重复订单数：0
**/

最后，代码说明及几点建议